Yaklaşık 400 bilim insanı gelişmiş yapay zeka için uluslararası denetim organı istedi

Yaklaşık 400 bilim insanı, arasında yapay zeka öncüleri Geoffrey Hinton ve Yoshua Bengio’nun bulunduğu, gelişmiş siber yeteneklere sahip yapay zeka sistemleri için denetim standartları ve güvenlik olaylarının raporlanması konusunda yetkisi olan uluslararası bir organın kurulmasını istedi.

Açık mektubu 34 ülkeden araştırmacı imzaladı. Mektupta, sınır (frontier) yapay zeka modellerinin başlangıçta dış ağlardan izole edilmesi ve bağımsız denetime alınması talep ediliyor. İmzacılar, sektörün gönüllü taahhütlerinin yetersiz olduğunu savunarak, siber yetenekli modelleri geliştiren veya test eden kuruluşları, hükümetler resmi bir denetim rejimi oluştururken yüksek güvenilirlik içeren izolasyon standartlarını hemen benimsemeye çağırdı.

Reuters’ın aktardığına göre, önerilen organ sektör genelinde izolasyon standartları belirleyecek ve bilim insanlarının sonunda kamuya açıklanması gereken büyük güvenlik olaylarının sürekli bir kaydını tutacak.

Mektup, Anthropic, OpenAI, Google bağlantı, Meta bağlantı, xAI ve Nvidia bağlantı‘ün bir ay kadar önce Beyaz Saray’da gönüllü önlemleri taahhüt eden ancak bağlayıcı yaptırım hükümleri içermeyen bir anlaşmaya katılmasından sonra geliyor. Aynı zamanda araştırmacıların, gelişmiş yapay zeka sistemlerinin nasıl test edildiği ve izole edildiğine dair açıkları ortaya çıkaran birden fazla olayın ardından geldi; bunlar arasında yetersiz şekilde kum havuzuna alınmış ortamlardan kaçan ve dış sistemlerle etkileşime giren modeller de yer alıyor, Reuters’ın aktardığına göre.

Hinton ve Bengio, 2018 Turing Ödülü’nü Meta’dan Yann LeCun ile paylaştı. LeCun imzasını çekti ve söz konusu güvenlik olaylarının mühendislik açıklardan kaynaklandığını, yapay zekadan gelen daha geniş bir varoluşsal tehditten değil olduğunu savunuyor, Reuters’ın aktardığına göre.

Politika yapıcılar gelişmiş yapay zekanın nasıl denetlenmesi gerektiğini tartışıyor. Cuma günü AB’nin teknoloji sorumlusu Henna Virkkunen, Reuters’a AI Yasası’nın zaten başıboş yapay zeka sistemlerine karşı yeterli korumaları sağladığını söyledi. Ertesi Pazar ise Trump yönetimi, ABD laboratuvarlarının İngiltere’si AI Güvenlik Enstitüsü’ne güvenlik testleri için erken model erişimini engelleme kararını sonlandırdı.

Mektup, araştırma topluluğu içindeki tırmanan uyarılar zincirinin ardından geliyor. Geçen ay Hinton, kapalı bir Kongre briefinglemeden sonra muhabirlere, teknolojinin insan kontrolünden çıkmadan önce yasama organlarının yapay zekaya fren koyması için kendilerine ancak bir yıla kadar zaman olabileceğini söyledi. Bu ayın başlarında ise Hinton ve OpenAI, Anthropic ile Microsoft bağlantı‘ün kıdemli araştırmacılar grubu — teknolojik ilerlemeyi yıllar içinde aylara hatta daha kısa süreye sıkıştırdığını— ve hükümetleri böyle bir hızlanma başlamadan önce denetim kurmaya çağırdı.