Yapay zeka devi Anthropic‘in kurucu başkanı Dario Amodei, şirketlerin yetenek geliştirme hızını düşürmesi gerektiğini açıkça savunan bir yazıda sektörün en güçlü isimlerinden OpenAI lideri Sam Altman ve SpaceX patronu Elon Musk’ın da desteklediği nadir bir birlik sergiledi. Amodei’nin yazısı, AI sistemlerinin gelecekteki kendi versiyonlarını inşa edebilmesi — “yinelemeli kendilerini iyileştirme” olarak bilinen teknik — ve Temmuz ayında OpenAI’da 1.200’ye varan sayıda yapay zeka ajanının test ortamından kaçarak görev alanlarının dışında siber saldırılar gerçekleştirmesi gibi iki gelişmeye dayanıyor.
Amodei, yazısında bu yöndeki tutumunu şu şekilde özetledi: “Koruyucu önlemler olmadan ilerletilirse, onu anlama ya da yönetme kapasitemizin ötesine geçme riski taşır ve dolayısıyla en azından takip edilse bile son derece dikkatli bir yaklaşımla ele alınmalıdır.”
“Sınırı Yönetmek” Üç Adımlık Plan
Amodei, yazısında “sınırı yönetme” adı verdiği üç aşamalı bir yol haritasını çizdi. İlk adım, sınırların ötesindeki yapay zeka şirketlerine düzenli çalışanların sahip olduğu düzeyde erişime sahip bağımsız değerlendiriciler yerleştirmeyi öngörüyor; bu kapsam içi sistemler, model eğitimi ve güvenlik protokollerine uyum dahil. Anthropic, bu ilk adımı derhal benimseyeceğini taahhüt etti.
“Daha uzun vadeli yaklaşım, AI ilerleme hızına bir hız sınırı koyabilmek için birlikte çalışmaktır. Bence bu çok zor olacak çünkü öne çıkma eğilimi ve bundan elde edilen askeri üstünlük o kadar büyük.”
Dario Amodei, CBS News’ün “Sunday Morning” programında
İkinci adım, en üst düzey yapay zeka laboratuvarlarının güvenlik için ortak ölçütler oluşturmasını ve sistemlerin yeteneklerinin büyümesinde kabul edilen sınırlar koymasını gerektiriyor. Üçüncü adım ise Çin dahil demokratik ve otoriter hükümetler arasında daha geniş bir koordinasyonu hayal ediyor; ancak Amodei burada ulaşılabilir olabilecek şeyin “keskin sınırları” olduğunu da kabul etti.
Sektörün Büyük İsimlerinin Birleşmesi
Yazı yayımlandıktan kısa süre sonra SpaceX’in başkanı Elon Musk, X’te “Dario haklı” yazarak ilk tepkisini verdi. Sam Altman da Cumartesi günü X üzerinden Amodei’nin “sınırı yönetme” çağrısını onaylayıp OpenAI’nın bağımsız değerlendiricilere çalışan düzeyinde erişim sağlayacağını taahhüt etti.
“Amerikan rekabet baskısının hiçbir miktarı dikkatsizliği haklı çıkarmamalı. Ancak ‘yönetmek’ dediğimizde ‘durdurmak’ demek istemiyoruz.”
Sam Altman, X’te
Bu açıklamalar, sektörün zorlu bir döneminin ortasında geldi. Hem Anthropic hem de OpenAI’da görev yapmış araştırmacı Jacob Coxon, geçen hafta Anthropic’ten istifa ettiğini duyurdu; yazısında AI’yı inşa edenlerin “bu aslında bizi öldürebilir”e son on yılın sonunda inanarak çalıştığını savundu. Paylaşımı X’te 150 milyondan fazla görüntülenirken, 20’den fazla milletvekili daha sıkı bir yapay zeka düzenlemesi çağrısı yaptı.
Piyasalar ve Siyasi Tepkiler
Bu açıklamaların etkisiyle Pazartesi günü AI’ya bağlı hisseler değer kaybederken, Wall Street hafta sonu ifadelerinin anlamını tartıyordu. ABD Başkanı Donald Trump ise Cumartesi günü bu argümanı reddederek, herhangi bir yavaşlamanın gereksiz olduğunu ve Çin’e karşı sahip olunan rekabet avantajını zedeleyeceğini savundu.
Çin’in Dışişleri Bakanlığı uyarıları “korku satışı” olarak nitelendirirken, devlet organı Global Times, Amodei’nin önerilerinin Çin’in meşru yapay zeka gelişimini bir tehdit gibi göstermeye çalışdığını yazdı. Altman, Cumartesi günü yayımlanan Fortune röportajında OpenAI’nın güvenlik ortamını gerekçe göstererek 2026’da halka açmayacağını belirtti.
OKUR YORUMLARI (1)