OpenAI, modellerinin teknik güvenlik değerlendirmelerini eğitim sürecinde dış kurumlara açıyor

Yapay zeka şirketi OpenAI, yapay zaka modellerini eğitme, değerlendirme ve kullanıma alma süreçlerinin tamamında bu modellerin teknik güvenliğini değerlendirmek için dış kuruluşlara kapılarını daha öncekinden erken ve geniş bir şekilde açtığını duyurdu. Şirket, üçüncü taraf denetçilere yalnızca lansmandan önceki dar pencerenin verilmesi uygulamasından vazgeçerek süreci model eğitiminden itibaren başlatacağını açıkladı.

Şirketin dış güvenlik uzmanlarıyla ilişkilerinden sorumlu yöneticisi Lama Ahmad, bu yeni yaklaşımın nedenlerini açıklamakta zorlandığını belirtti. “Riskler arttıkça, dağıtımlarımıza ek olarak, yüksek risk taşıyan eğitim ve değerlendirme süreçlerini de gözden geçirmemiz gerektiğine inanıyoruz,” dedi. Ahmad’ın açıklamaları Bloomberg’e verdiği röportajda yer aldı.

Denetçiler için dört öncelikli alan belirlendi

OpenAI, blog yazısında derinlemesine değerlendirme için dört öncelikli alan belirledi. Bunlar arasında eğitim, değerlendirme ve kullanıma alma süreçlerini kapsayan güvenlik durumlarının bağımsız incelemesi; iç ve dış dağıtımlarda kritik koruma önlemlerinin değerlendirmesi; kimyasal ve biyolojik riskler, siber güvenlik ile yapay zekanın kendini geliştirmesini kapsayan yetkinlik değerlendirmelerinin gözden geçirmesi ve kritik uyumsuzluk olaylarının bağımsız soruşturması yer alıyor.

Şirket, en hassas çalışmalar için dış denetçilerin kendi ofislerine davet edilebileceğini belirtti. Bu uygulama daha önce de uygulandı. “Laboruarlar, hassas bilgileri korurken anlamlı bir gözetimi mümkün kılma sorumluluğuna sahiptir,” dedi şirket blog yazısında.

Değerlendirmeleri yönlendiren ilkeler açıklandı

OpenAI, bu değerlendirmelerin temelini oluşturması gereken ilkeleri de ortaya koydu. Bunlar arasında denetçilerin bağımsızlığı, bilimsel titizlik, güvenlik uygulamaları ve net biçimde tanımlanmış sorumluluklar bulunuyor. Şirket, birkaç eşzamanlı incelemenin farklı zamanlamalarla yürütüleceğini; bunların bazılarının birkaç hafta sürerken diğerinin birkaç ay devam edebileceğini belirtti.

Riskler arttıkça, dağıtımlarımıza ek olarak, yüksek risk taşıyan eğitim ve değerlendirme süreçlerini de gözden geçirmemiz gerektiğine inanıyoruz.

Lama Ahmad, OpenAI Dış Güvenlik Uzmanlarıyla İlişkiler Yöneticisi

Duyuru, OpenAI CEO’su Sam Altman’ın 12 Eylül’de şirketin bağımsız denetçilere ofis erişimi, ekipman ve bulgularını yayımlama hakkı vereceğini açıklamasının ardından geldi. Salı günü yapılan blog yazısında herhangi bir ortak kuruluş adı verilmedi veya belirli erişim koşulları belirlenmedi.

Rakip şirket Anthropic de geçen hafta modellerinin güvenliğini test etmek için Accenture’dan (ACN) denetçileri kendi ekiplerine dahil edeceğini açıklamıştı. Altman, Anthropic CEO’su Dario Amodei’nin sektörde daha güçlü güvenlik önlemleri—including dış denetçilerin kullanımı—benimseme çabalarını kamuya açık biçimde desteklemişti.