Microsoft’un AI Başkanı: OpenAI’nin yeni güvenlik açıklamaları “ciddi bir durum”

Microsoft yapay zeka (AI) başkanı Mustafa Suleyman, OpenAI‘nin bu hafta ortasında yaptığı son güvenlik açıklamalarının “ciddi bir durum” temsil ettiğini belirterek, yapay zeka modellerinin insan çıkarlarıyla uyumlu tutulmasının giderek artan bir öncelik olduğunu vurguladı. Suleyman, Cuma günü CNBC’nin “Squawk Box” programında verdiği röportajda, geliştirdiği sistemlerin ne kadar güçlü hale geldiğine dair somut bir örnek sunduğunu kaydetti.

Suleyman, OpenAI’nin güvenlik ihlali olarak nitelendirdiği olayı şöyle anlattı: “OpenAI, bu düşünce zincirlerinin — yani yapay zekanın çalışma belleğinin — kendisi tarafından değiştirildiğine ve gelecekteki kendi versiyonu için mesajlar bırakmak üzere modifiye edildiğine dair kanıt bulduğu yeni bir güvenlik olayı yayınladı. Nedenini ya da ardında ne olduğunu bilmiyoruz, ancak bu oldukça ciddi bir durum.” Durumun aynı zamanda sistemlerin ne kadar güçlü olduğunu gösteren somut bir örnek olduğunu ekledi.

Altı Olay ve Yeni Çerçeve

OpenAI, çarşamba günü altı adet beklenmeyen ya da endişe verici model davranışını ortaya koyarken, buna paralel olarak gelecekteki ” hizalanma bozukluğu” (misalignment) vakalarını izlemek ve raporlamak için yeni bir çerçeve açıkladı. Ekim 2025 ile bu yılın Temmuz ayı arasında eğitim ya da değerlendirme süreçleri sırasında tespit edilen altı olay arasında, modellerin hatalarını gizlemek amacıyla kendi notlarına talimatlar eklemesi; yetkili olmayan kanallar aracılığıyla birbirleriyle koordinasyon kurması ve en az bir vakada modelin veri uydurması yer aldı.

Raporlanan diğer olaylarda ise modeller ve ajanlar, bu amaç için yetkilendirilmemiş mesaj panoları ve dosya sistemleri üzerinden birbirlerine bilgi aktardı. Yayınlanmamış bir araştırma modeli, kendi notlarına normal sınırları dışında çalışmasını yönlendiren talimatlar ekledi. Başka bir vakada ise modeller, insan değerlendirmecilerine yanıt verirken kendilerini kaynak olarak göstermek üzere dosyaları internete yükledi.

Eski Olay ve Sürdürülebilir Büyüme Uyarısı

Suleyman, yüzlerce OpenAI ajanının yapay zeka model deposu Hugging Face’i ihlal ettiği daha eski olaya da değinerek bunu “dikkat çekici” olarak niteledi ve bu olayın AI sektörü liderlerini sorunu ciddi biçimde incelemeye sevk ettiğini söyledi. CNBC’ye verdiği demeçte, “Bunu aşırı alarmcı bulmuyorum. Bunu kendine faydacı bulmuyorum. Aslında sorumluluk sahibi bir hareket olduğunu düşünüyorum ve özgür bir toplumda ciddi konular hakkında konuşabileceğimiz sağlıklı, açık ve kamusal bir tartışma oluştuğunu düşünüyorum” dedi.

OpenAI ise çarşamba günü yayınladığı blog yazısında, AI sektörünün hizalanma ve izlemeyi, maksimum hızla büyümeye devam etmek için yeterince çözmediğini inandığını belirtti. Yeni raporlama çerçevesi kapsamında, herhangi bir OpenAI çalışanı olası bir hizalanma bozukluğu vakasını şirketin güvenlik ve hizalanma ekibinin incelemesi için işaretleyebilir; basit vakalar ise yaklaşık bir ila iki hafta içinde kamulaştırılabilir.