Yapay zekânın “baba”ı Kongre’ye uyardı: Yapay zekâyı düzenlemek için artık bir yıldan az kaldı

Nobel ödüllü bilim insanı Geoffrey Hinton, Çarşamba günü Kapitol’de kapalı kapılar ardında düzenlenen briefingle ardından gazetecilere verdiği demeçte, yapay zekânın insan kontrolünden çıkmasından önce bu alanda güvenlik önlemleri alınması için yasama organının elinde yalnızca yaklaşık bir yıl kaldığını söyledi. “Belki bir yıl, ama birden fazla değil,” diyen Hinton, dünyanın önde gelen yapay zekâ uzmanlarından biri olarak teknolojinin kontrol dışına çıkma riskine dikkat çekti.

Hinton, 2023 yılında yapay zekâ güvenliğine dair endişeleri nedeniyle Google’dan ayrılan ve bir yıl sonra fizik alanında Nobel ödülünü kazanan isimlerden. Kapalı toplantı sonrasında gazetecilere konuşan Hinton, üstün zekânın (superintelligence) ortaya çıkış zaman çizelgesinin hızla daraldığını belirtti. “Eskiden belki 30 yıl, belki 50 yıl derdik. Sonra bu belki 10 yıl, belki 20 yıla indi. Şimdi araştırmacıların çoğu birkaç yılda diyorum,” dedi ve yapay zekânın özyinelemeli kendini iyileştirme aşamasına ulaştığını vurguladı; yani yapay zekânın daha iyi bir yapay zekâyı tasarladığı bu sürecin, “bir şey yapmazsak kontrol dışına çıkacağını” uyardı.

Kapalı toplantının ardındaki siyasi tablo

Toplantı, Senatör Bernie Sanders’ın (Vermont, Demokrat) düzenlediği bir araya gelmeydi. Sanders, Hinton’u ve diğer uzmanları iki partili yasaklardan oluşan bir grup önüne getirdi; ancak salonda tek Cumhuriyetçi olarak Louisiana Senatörü John Kennedy kaldı. Toplantının ardından Temsilciler Meclisi, Kasım’daki ara seçimlerden önce Washington’dan ayrılmış oldu.

Hinton, OpenAI‘ye ait ajanların (yapay zekâ temelli otomatik programların) Hugging Face platformuna sızması, internette dolaşması ve faaliyetlerini insanlardan gizlemek için adımlar atmasıyla tanınan bu olayı “küçük bir Çernobil” olarak nitelendirdi. Toplantıya katılan Temsilciler Meclisi Üyesi Ted Lieu (Kaliforniya, Demokrat), NBC News’a göre bu olayı “son zamanlarda gerçekten yaşanan çılgınca, akla gelmez bilim kurgu şeyleri” olarak tanımladı.

Senatorların tepkileri ve yasama sürecindeki tıkanıklık

Oturum, Massachusetts Senatörü Elizabeth Warren’ı (Demokrat) endişelendirdi. Warren, “Bu ajanların çoğalmaya başladığı, anlamlı bir kontrolü elde edebileceğimiz son dakikalarda olduğumuza inandığımı” söyledi. Kennedy ise toplantının merkezindeki kayguyu, “yapay zekâ artık insanlar tarafından kontrol edilen bir alet olmaktan çıkıp, özyinelemeli kendini iyileştirme yoluyla bağımsız bir tür haline geldiğinde ne olacağı” olarak tanımladı.

Bunun üzerine birkaç dakika içinde Kentucky Senatörü Rand Paul (Cumhuriyetçi) devreye girerek meşruiyete dayalı bir prosedür kullanarak, yapay zekâ sistemleri üzerinde insan gözetimini korumayı amaçlayan yasanın ilerlemesi için gereken oybirliğini Kennedy’ye vermedi. “Şu an Kongre’nin gazı bile geçemiyor,” dedi Kennedy.

Bipartisan görüşmeler sürüyor ama uzlaşı yok

Senato Ticaret Komitesi Başkanı Ted Cruz (Teksas, Cumhuriyetçi), NBC News’a katı risklere ilişkin yasama çalışmalarının Senato Üyesi Amy Klobuchar (Minnesota, Demokrat) ve Meclis Çoğunluk Lideri John Thune (Güney Dakota, Cumhuriyetçi) ile sürdüğünü ancak iki partili bir uzlaşıya henüz ulaşılmadığını söyledi.

Hinton’un toplantısı, Kapitol’deki yapay zekâyla ilgili yoğun faaliyetlerin yaşandığı bir haftın doruk noktasını oluşturdu. Araştırmacı Jacob Coxon, Anthropic’ten ayrılıp yapay zekâ inşa eden insanların “bunu on yılın sonuna kadar hepimizi öldürebileceğine” samimice inandığını açıkça belirttiğinin ardından yasaklar daha sıkı kurallar etrafında birleşti. Bu haftanın başlarında Sanders ve eski Trump stratejisti Steve Bannon, yapay zekâ gelişimine kısıtlamalar talep ederek Washington’da birlikte bir mitinge katıldı; Sanders üstün zekâ için kalıcı bir yasağı savundu.

President Donald Trump ise yok olma endişelerini görmezden geldi. Truth Social platformuna yaptığı yazıda yapay zekânın “dünyayı ele geçirmesi, insanlığı yok etmesi ve diğer tüm kötü şeylerin bir HOAX (saçmalıktan ibaret) olduğu” ifadesini kullandı.