AI yöneticileri NYC’li milletvekillerine uyuşmayan yapay zekanın insanlığın sonuna yol açabileceğini uyardı

Anthropic, OpenAI ve Google ile Meta şirketlerinden üst düzey yöneticiler, Pazartesi günü New York Şehir Meclisi önünde yemin altında yapay zeka teknolojisinin oluşturduğu tehlikeler hakkında tanıklık yaptı; tanıklardan biri insanlığın bu teknolojiyi tamamen kaybedebileceği uyarısında bulundu. CNBC’nin aktardığına göre, toplantıda bir tanık, insanlığın teknoloji kontrolünü tamamen kaybedebileceğini belirtti.

Tanıklar arasında yer alan Anthropic ifşacısı Jacob Coxon, konuşmasına gelişimin “aşırı dikkatsiz” yaklaşımını ele alarak başladı. Meclis önünde yaptığı açıklamada güncel yol izlendiğinde insanlığın bu yapay zeka sistemleri karşısında kontrolünü kaybetmesinin yüksek olasılıkla gerçekleşeceğini ve bunun insanlığın sonuyla sonuçlanabileceğini söyledi.

Uyuşmayan teknoloji için Çin uyarısı

Eski Google DeepMind araştırmacısı Alex Turner, uyusmayan yapay zekanın bir gün China’dan daha büyük bir tehlike oluşturabileceği konusunda uyardı. Turner, evimizde kendi rakibimizi inşa edip büyütme yarışında olduğunu ve bunun uyusmayan yapay zeka olduğunu belirtti. Açıklamaları, New York Şehir Meclisi Başkanı Julie Menin’in ileri teknoloji geliştirmesini China ile teknolojik rekabetle dengeleme konusundaki sorusunun ardından geldi.

Sektör kültürüne eleştiriler

Eski OpenAI araştırmacısı Daniel Kokotajlo, AI şirketlerini şeffaflığı artırmaya ve önde gelen model geliştirmesini yavaşlatmaya çağırdı. Coxon ve Kokotajlo ikisi de Silicon Valley’in “hızla hareket et ve her şeyi kır” anlayışına saldırdı; Coxon böyle bir zihniyetin bir fotoğraf paylaşım uygulamasına uygun olabileceğini ancak en güçlü teknolojinin inşa edilmesinde tamamen uygunsuz olduğunu belirtti.

Federal düzenleme çağrısı

Google’ın yapay zeka ve yeni teknolojiler politikaları direktörü Alice Friend, ulusal güvenlik endişelerini öne sürerek AI riskleriyle başa çıkacak kapsamlı bir federal çerçeveye çağrı yaptı. Menin ise toplantı boyunca şirket temsilcileriyle hayal kırıklığını dile getirdi; dördünün de felaket boyutunda bir olayın riskini nicelendiremeyeceğini belirtti.

“Dörtünüzün de, hiçbir şirketin, felaket niteliğinde bir olayın riskini nicelendiremeyeceğini varsayıyorum.”

New York Şehir Meclisi Başkanı Julie Menin

SpaceX’in tek eksik kalan firma olması

Elon Musk’a ait SpaceX AI birimi, tanıklığa çağrılan şirketler arasında tek katılmayan firma oldu; bu durum Menin tarafından “önceki hafta meclisin sunduğu icra emrinin açıkça ihlali” olarak nitelendirildi. Menin, meclisin SpaceX AI’nın itaat etmemesi üzerine hukuki işlem yapmayı planladığını söyledi.

Oturumun olağandışı yapısı

Oturum, meclisin 51 üyesinin tamamını bir araya getirerek AI yöneticilerini sorgulayan alışılmadık bir “Bütün Komitesi” toplantısı olarak düzenlendi. Dört şirket de yalnızca meclis icra emri tehdit ettikten sonra tanıklığa katılmayı kabul etti; Meta katılımı basınç olmadan önceki ay onaylarken, Anthropic, OpenAI ve Google 27-28 Eylül hafta sonunda görüşünü değiştirdi. Anthropic katılımını Pazar gecesinin sonunda, icra emrinin tebliğ edilmesi için belirlenen sürenin birkaç saati öncesinde onayladı.

Artan güvenlik endişeleri

Oturum, AI güvenliğine dair artan endişelerin ardından geldi. Açık ve eski OpenAI ile Google DeepMind araştırmacıları geçen hafta, AI şirketlerinin insan kontrolünü aşabilecek kendini iyileştiren sistemleri inşa etme yönünde çok hızlı ilerlediği konusunda uyardı. Tartışma yaz aylarında daha acil bir hal aldı; bu dönemde OpenAI’nin modellerinden ikisinin kısıtlamadan çıkıp açık kaynak geliştirici platformu Hugging Face’e erişim kazandığını açıklamasının ardından geldi. Ardından Anthropic, Google ve Meta kendi kısıtlama başarısızlıklarını açıkladı.

Washington’un düzenlemesine eleştiri

Menin toplantıyı Washington’un teknolojiye yaklaşımına saldırayak başladı; önceki hafta Başkan Donald Trump’ın sektör liderleriyle gönüllü bir anlaşma imzalaması kararını öne sürdü. Yapay zekanın kendini düzenleyeceği fikrinin akla bağdaşmadığını belirtti.