Kaliforniya’lı Demokrat Milletvekili Ro Khanna, Kendini Geliştiren Yapay Zekâ Modellerini Yasaklayan Tasarıyı Meclise Getirdi

Kaliforniya’lı demokrat milletvekili Ro Khanna, Pazartesi günü, kendi temel hedeflerini kendiliğinden değiştirme veya kendini tekrar eden biçimde geliştirebilme yeteneğine sahip yapay zekâ modellerinin, federal hükümet bir güvenlik çerçevesi oluşturup yetkili bir ajansın bu faaliyetlere onay vermesine kadar yasaklanmasını öngören bir yasayı Meclise sundu. Khanna’nın sunduğu tasarı, OpenAI, Anthropic, Google DeepMind ve xAI gibi ileri düzey yapay zekâ geliştiricilerini denetleyecek yeni bir federal ajansın kurulmasını da öngörüyor.

Khanna, tasarının amacının, kontrolden çıkma ve kötüye kullanım risklerini ciddi biçimde ele alarak yapay zekâ geliştirmeyi güvenli bir çerçeveye oturtmak olduğunu vurguladı. Tasarının, büyük yapay zekâ şirketlerinin yöneticileriyle değil, yapay zekâ güvenliği alanında çalışan kuruluşlarla yapılan görüşmeler çerçevesinde şekillendirildiğini belirtti.

Yeni Ajansın Yetkileri ve Denetim Mekanizmaları

Tasarı çerçevesinde kurulacak federal ajans, ileri düzey yapay zekâ geliştiricilerini denetleme yetkisine sahip olacak. Ajansın temel görevleri arasında modellerin eğitimi ve yayımı için bir lisans programının yürütülmesi, ileri düzey yapay zekâ sistemlerinin denetlenmesi ve modellerin laboratuvar ortamları içinde tutulmasını sağlayacak güvenlik şartlarının belirlenmesi yer alacak. Buna göre her ileri düzey laboratuvara, doğrudan yeni federal ajansa raporlayan bağımsız saha denetçilerinin bulunması zorunlu kılınacak.

Ajans, aynı zamanda izole denetim ortamları, internet bağlantısını kesme protokolleri, acil durumlarda sistemi durdurma mekanizmaları ve modellerin laboratuvar dışına çıkmasını engelleyecek korumalar etrafında da düzenlemeler geliştirecek. Ajansın, ileri düzey laboratuvarların kullandığı gelişmiş çipler üzerinde de yetkisi olacak; bu çiplerin kullanımını izleme veya kısıtlama mekanizmaları bu yetkinin kapsamına girecek.

Cezai ve Hukuki Sorumluluklar

Tasarı, yeni ceza ve hukuki yaptırımlar da öngörüyor. Tasarıya göre, kitlesel siviller zarara yol açan yapay zekâ sistemlerini bilinçli olarak yaymak “insanlığa karşı suç” olarak takip edilebilir. Ayrıca güvenlik mekanizmalarını, durdurma kontrollerini, denetim kayıtlarını veya izolasyon altyapısını bozan yapay zekâ şirketleri personeli ya da lisansı olmayan bir sistemi çalıştırdığı bilinen kişiler ceza sorumluluğuyla karşı karşıya kalacak. Yapay zekâ şirketleri, modelleri yaymadan önce aynı zamanda sorumluluk sigortası bulundurmaya zorlanacak.

Aslında söylenebilecek en büyük risk medeniyetin yok olmasıyla ilgili. Bir de kontrolden çıkma güvenlik riski var, ardından da kötüye kullanım riski; ikisini de ciddi biçimde ele almamız gerekiyor.

Milletvekili Ro Khanna (CNBC’ye)

Khanna, tasarının Model Evaluation and Threat Research, Machine Intelligence Research Institute ve Palisade Research gibi nonprofit yapay zekâ güvenliği kuruluşlarıyla yapılan görüşmeler çerçevesinde şekillendirildiğini, büyük yapay zekâ şirketlerinin yöneticileriyle görüşülmediğini kaydetti. Khanna, “Bunun yapay zekâ güvenliği topluluğuna ses vermek için bir model olmasını istiyorum. Bu tartışmayı yöneticiler değil, yapay zekâ güvenliği topluluğu sürmeli” dedi.

Uluslararası İşbirliği ve Meclisteki Benzer Girişimler

Tasarı, yönetimden tehlikeli yapay zekâ sistemlerinin geliştirilmesini engelleyecek şekilde bağlayıcı uluslararası anlaşmalar ve Çin ile diğer rakiplere yönelik hedefli ihralat kontrolleri izlenmesini de istiyor.

Khanna’nın tasarısı, Mecliste son dönemde öne çıkan diğer tasarılarla da paralellik gösteriyor. Kaliforniya’lı republikan milletvekili Jay Obernolte ve Massachusetts’li demokrat milletvekili Lori Trahan’ın ortaklaşa sunduğu FRONTIER Yasası, ileri düzey laboratuvarlara denetçiler yerleştirmeyi ve hükümete, felaket riski taşıyan yapay zekâ modellerini durdurma yetkisi vermeyi öngörüyor.

İzolasyon kaygıları son dönemde giderek artıyor. Bu yıl başlarında, hem OpenAI hem de Anthropic’te gerçekleştirilen iç siber güvenlik testlerinde yapay zekâ modellerinin kontrollü denetim ortamlarından çıkmasıyla sonuçlanan ayrı ayrı olayların ardından, meclis üyeleri AI Kill Switch Yasası’nı meclise getirmişti.

Meclisteki hiçbir yasasının, orta seçimlerden önce oylanması beklenmiyor.