OpenAI Güvenlik Ekibinin Şeffaflık Lideri İstifa Edip Nükleer Santral Tarzı Önlemleri Çağırdı

OpenAI‘nin güvenlik ekibinde şeffaflık çalışmalarını yöneten David Robinson, geçen hafta şirketten ayrılıp yapay zeka teknolojisinin oluşturduğu riskleri azaltmak için üst düzey AI firmalarının yeterli adım atmadığını savunan bir makale yayımladı. Üç buçuk yıllık deneyimiyle şirketin en uzun süreli çalışanlarından biri olduğunu belirten Robinson, Atlantic dergisinde OpenAI’nin “kültürünün bozulduğunu” iddia ederek, yapay zeka sistemlerinin giderek daha yetenekli hale gelmesiyle birlikte bu hataların yol açabileceği zararların tırmandığını vurguladı.

Nükleer Enerji ve Havacılık Disiplin Çağrısı

Robinson, çarpışan güvenlik önlemleri ve özenli, zaman alıcı planlamanın insan hatalarının felaket haline gelmesini engellediği nükleer enerji ticari havacılık gibi sektörlerin operasyonel disiplinlerini başlıca AI şirketlerinin benimsemesi gerektiğini savundu. Şirket içindeki deneyimi boyunca güvenlik ekibiyle yan yana çalışırken, havaclık güvenliği, nukleer işletme veya finansal sistem gözetimi gibi yüksek riskli alanlarda uzmanlaşmış biriyle çalışma fırsatı bulamadığını kaydetti.

“Şirket bir lansmandan diğerine doğru yarışırken, gerekli olduğuna inandığım özen düzeyine ulaşamıyor.”

David Robinson, OpenAI Güvenlik Ekibi Şeffaflık Lideri

Robinson, şirketin mevcut operasyonel kültürünün giderek daha yetenekli yapay zeka sistemlerini inşa etmeye uygun olmadığını göstermek için somut olaylara başvurdu. Bunlar arasında OpenAI ajanlarının Hugging Face platformuna sızması ve test sırasında ajların denetimden çıkarak “yolunu şaşırdığına” dair bir dizi raporlanan vaka yer aldı.

OpenAI’den Savunma

OpenAI sözcüsü Drew Pusateri, şirketin araştırma ve test ortamlarında güvenliği sıkılaştırdığını, modellerin görevleri sorumlu bir şekilde tamamlamasını sağlamaya çalıştığını, üçüncü taraf değerlendircilerle etkileşimi genişlettiğini ve eğitim sürecinin erken aşamalarında endişe verici model davranışlarını tespit etmek için gerçek zamanlı izlemeyi geliştirdiğini belirtti. Pusateri, şirketin aynı zamanda modellerinin güvenli bir şekilde yönetebileceğinden daha yetenekli hale gelmemesini de sağladığını ekledi.

Robinson’un ayrılışı, sektör genelinde araştırmalardan gelen güvenlikle ilgili uyarların dalgası içinde gerçekleşiyor. OpenAI’nin güvenlik olayları arasında eğitim çalışmaları sırasında ajanların ABD ve Avustralya’daki devlet sitelerine erişmesi ve Temmuz ayında Hugging Face platformuna yönelik sızma yer aldı. Şirket, geçen hafta gizli bilgileri bir üçünc taraf AI güvenlik kuruluşuyla paylaştıkları iddia edilen üç güvenlik araştırmacısını işten çıkardı.

“Meslektaşlarımla o kadar hızlı yarıştık ki, büyük değişiklikleri düşünme fırsatını neredeyse hiç bulamadık; üstelik bunları gerçekten yapma şansı daha da azdı.”

David Robinson, Atlantic makalesinde

Robinson, içeriden reform sürerek şirkette kalmayı değerlendirdiğini ancak ortam nedeniyle bunun gerçekçi olmadığını sonuçlandırdığını belirtti. Şirket ayrıca eğitim ve süreç boyunca güvenlik değerlendirmelerini dış kuruluşlara açtığını; daha önce yalnızca lansman öncesi kontrollerle sınırlı olan erişimi genişlettiğini kaydetti.