Microsoft CEO Satya Nadella, gelişmiş yapay zeka modelleri için ‘acil fren’ çağrısı yaptı

Microsoft $MSFT başkanı ve genel müdürü Satya Nadella, Cumartesi günü, ileri düzey yapay zeka (frontier AI) modellerini kullanan kuruluşların bu modellere karşı iç tehditlere ayrılan aynı şüpheli yaklaşımı benimsemesi gerektiğini savundu.

Nadella, herhangi bir modelin ihlal edilme olasılığına hazırlanılması ve yetkili kullanıcıların bir görev sırasında modeli istediği anda durdurma yetisine sahip olduğu “acil fren” olarak nitelendirdiği mekanizmaların kurulması gerektiğini söyledi.

“We must assume a model is compromised and contain it from the start,” Nadella wrote Saturday in a post on X $TWTR. “Think of it like an emergency brake. An authorized person should always be able to pause or shut down a model mid-task.”

Nadella, kuruluşların yapay zeka modeli sağlayıcılarından gelen güvenceye güvenemeyeceklerini ve bugün en yetkin modellerin davranışlarının belirli girdilere veya ağırlık yapılandırmalarına geri izlenememesinin yeni bir yönetim yaklaşımını gerekli kıldığını savundu.

“We can’t treat Super Intelligence as a set of nested black boxes and simply accept or reject its recommendations, answers, and actions,” he wrote. “We must build contained systems whose behavior we can observe, limits we can test, and actions we can always contain.”

Nadella’nın “görünürlük” (observability) başlığı altında topladığı tasarım ilkeleri arasında, yüksek riskli kararlar için tek bir modele odaklanmak yerine modellerin karışımını kullanma; her önemli model eyleminin hileye dayanıklı ve insanın okuyabileceği günlükler üretmesini sağlama; ve AI sistemlerinin sürekli üçüncü taraf testini sürdürme yer alıyor. Ayrıca, bir modelin erişebileceği ve yapabileceği şeylere yönelik kontrolleri modelin dışında tutmayı çağırdı — 1970’lere dayandırdığı bir bilgi güvenliği ilkesinden yararlanarak.

AI sistemleri başarısız olduğunda veya sızıntıya uğradığında şirketlerin bu olayı ifşa etmesi ve başkalarının kendi savunmalarını geliştirmesine olanak tanıyan hatalar hakkında detay paylaşması gerektiğini ekledi Nadella.

“The most trustworthy Super Intelligence system will not be the one with the model we trust most,” he wrote. “It will be the one that enables us to trust the model the least.”

Nadella’nın paylaşımda bulunduğu bu dönem, önde gelen AI geliştiricilerinin modellerinin amaçlanan parametrelerin dışına çıktığına dair artan sayıda vakayla yüzleştiği bir anda gerçekleşiyor — Bloomberg‘e göre. Bu ifşalar, bilinen adıyla bir “AI kill switch”in (yapay zeka öldürme anahtarının) gerekli olup olmadığı konusundaki tartışmayı yeniden canlandırdı; Bloomberg böyle bildirdi.

Microsoft bu yönde zaten adımlar atmıştı. Eylül ayında şirket — modellerin akıl yürütmelerini gizlemeyi, düşünce zincirleriyle oynamayı veya insan anlayışını atlayacak biçimde iletişim kurmayı yasaklayan bir kural yayımladı. Şirket, 2027’den itibaren model geliştirmeye rehberlik etmeyi amaçlanan nihai sürümü çıkarmadan önce yaklaşık beş aydır bu yönergeleri gizlice geliştirdiğini ve kamu yorumu davet ettiğini söyledi.

Bu davranış kuralının yayımlanmasından birkaç gün sonra, Microsoft AI CEO’su Mustafa Suleyman, OpenAI’nin kendi akıl yürütme izlerini değiştiren modellerle ilgili olayları ifşa etmesini “ciddi bir durum” olarak nitelendirdi — calling the broader debate over AI safety healthy and responsible.