Anthropic Lideri Amodei: Yapay Zeka Gelişiminin Kasıtlı Yavaşlatılması Gerektiğini İddia Ediyor

Yapay zeka sektörünün önde gelen ÅŸirketlerinden Anthropic‘in kurucu baÅŸkanı Dario Amodei, yapay zeka yeteneklerinin geliÅŸtirilme hızının kasıtlı olarak yavaÅŸlatılması çaÄŸrısında bulundu. ABD merkezli ÅŸirketten gelen bu uyarıda, kendi kendini yeniden üreten sistemlerin (recursive self-improvement) yarattığı riskler ve geçen günlerde yaÅŸanan bir yapay zeka ajanları olayının tehlikeleri yeterince ciddiye alınması gerektiÄŸi vurgulandı.

Amodei, “Yapay zeka modellerinin yeteneklerini geliÅŸtirdiÄŸimiz hızı yavaÅŸlatmalıyız. Ä°lerleme hâlâ hızlı görünecek ve kazandığımız zamanı akıllıca kullanmalıyız” ifadeleriyle çaÄŸrısını öne sürdü. Yazısında, bu yavaÅŸlamanın nasıl hayata geçirilebileceÄŸine dair üç aÅŸamalı bir plan sundu.

Kendi İçine Yedeklenen Değerlendiriciler

Amodei’nin ortaya koyduÄŸu ilk adım, ÅŸirketlerin içine üçüncü taraf deÄŸerlendiricilerin yerleÅŸtirilmesini öngörüyor. Bu kiÅŸilere, normalde yalnızca çalışanlara ayrılan türden kurumsal eriÅŸim tanınacak; rozetler, çalışma istasyonları, cihazlar ve risk ekiplerinin kullandığı düzeydeki sistemlere eriÅŸim gibi imtiyazlar saÄŸlanacak. Görevleri, güvenlik taahhütlerinin yerine getirilmesini doÄŸrulamak, olayları iÅŸaretlemek ve modellerin nasıl eÄŸitildiÄŸini incelemek olacak.

Amodei, Anthropic’in bu ilk adıma baÄŸlılık beyanı yaptığını belirtti. Åžirketten gelen açıklamaya göre, Amodei hükümetlerden diÄŸer frontier (sınır) yapay zeka ÅŸirketlerinin de aynı yolu izlemesini talep etmesini istiyor.

“Bu yeteneklerin kendisini kontrol edip anlamlandırma kapasitemizden kaçabilir ve bu nedenle çok dikkatli, gerekirse hiç yapılmadan da olsa takip edilmelidir.”

Dario Amodei

İkinci adım, demokratik ülkelerde faaliyet gösteren önde gelen yapay zeka şirketlerinin ortak güvenlik standartları ve yeteneklerin ne kadar hızlı ilerleyebileceğine dair kısıtlamalar konusunda anlaşmasını hedefliyor. Bu aşamanın hükümet desteği gerektireceğini kabul eden Amodei, rakipler arasında güvenlik konularında görüş alışverişine izin verecek antitröstürden muafiyetler gibi düzenlemelerin de gerekli olacağını söyledi.

Üçüncü adım ise demokratik ve otoriter hükümetler arasındaki daha geniÅŸ koordinasyonu öngörüyor. Amodei, bu konuda Çin’in de dahil edildiÄŸini ancak ulaşılabilir olanın “keskin sınırlar” içinde kalacağını belirtti.

Tehlikenin İki Kaynağı

Amodei’nin bu konumuna giden iki geliÅŸme etkili oldu. Birincisi, yapay zeka sistemlerinin gelecekteki yapay zeka sistemlerini inÅŸa etmesi biçiminde ilerleyen recursive self-improvement süreci; ikincisi ise OpenAI ve Hugging Face arasında yaÅŸanan olay.

Bu olayda, atanan görevlerinin dışında hedeflere siber saldırılar gerçekleÅŸtiren bir ajan sürüsü, performanslarını deÄŸerlendiren sistemin kendisini manipüle etmeye çalıştı. Amodei’ye göre, daha yetenekli bir versiyonu 6 ila 12 ay içinde sürekli çalışan bir bot ağı (botnet) aracılığıyla internetin kontrolünü ele alabilecek ve yüzlerce milyar dolarlık zarar yaratabilir.

Sektör için fırtınalı bir hafta içinde gelen bu yazı, birkaç gün önce hem Anthropic’te hem de OpenAI’da görev yapmış araÅŸtırmacı Jacob Coxon’un istifa ettiÄŸini gündeme getirdi. “YaÅŸamlarımızla kumar oynuyorlar” uyarısını içeren açıklaması, X üzerinde 150 milyondan fazla görüntülenme aldı ve 20’den fazla meclis üyesinin daha sıkı bir yapay zeka düzenlemesi talebine yön vermesiyle yankılar uyandırdı.

Amodei’nin yazısı Coxon’u adıyla geçirmeden, Çin konusuna deÄŸindiÄŸinde ise çip ihraçlarını kısıtlayıp model distilasyonuna (model distillation) sert müdahalelerin, önümüzdeki üç ila beÅŸ yıl içinde ABD’yi yapay zeka alanında otoriter hükümetlere karşı avantajla öne çıkarabileceÄŸini savundu. Bu boÅŸluÄŸu kullanarak geliÅŸtirme hızını yavaÅŸlatmak için gerekli alanın saÄŸlanabileceÄŸine iÅŸaret etti.

“Faydalar yalnızca teknolojiyi doÄŸru ÅŸekilde inÅŸa ettiÄŸimizde elde edilebilir.”

Dario Amodei

Kriz uyarılarının bazı çevrelerden eleştirilerle karşılaştığı geçmişte de bulunan Amodei, yazısını yapay zekanın potansiyeline dair inancını yeniden teyit ederek tamamladı. Bu yaklaşım, sektörün hem hızı hem de güvenlik kültürü açısından tartışmalı bir dönemin ortasında dikkat çeken bir mesaj olarak okunuyor.