Modra’nın kurucusu ticari yapay zeka ajanlarının düzenlenmesini istedi

Noubar Afeyan, ilaç şirketi Moderna’ın kurucularından biri olarak, piyasaya sürülen yapay zeka ajanlarının (agents) düzenlenmesi çağrısında bulundu ve felaketin yaşanmasını beklemenin ilaç sektörünün geçmiş hatalarını tekrarlamak riski taşıdığını uyardı.

Afeyan, salı günü Yeni Delhi’de düzenlenen Bloomberg New Economy Forum’da konuşurken, 1950’ler ve 1960’lar arasında hamile kadınlara verilen bir ilacın doğum kusurlarına yol açtığı talidomid felaketini örnek gösterdi. Piyasaya sürülecek her şirketin, o sistemlerin güvenli olduğunu kanıtlama yükümlülüğü bulunduğunu savundu.

$MRNA -5.00%, called for regulation of artificial intelligence agents being sold commercially, warning that waiting for a disaster risks repeating the drug industry’s past mistakes.

“Sanırım yapmamız gereken şey, ev içinde yapmak istenecek sınırların ötesine yayılan ve ticari amaçla kullanılan ajanları düzenlemeyi dikkatle düşünmek,” dedi. 64 yaşındaki Afeyan, Bloomberg’e göre etkinlikteki sözlerini şöyle sürdürdü:

“I believe what we should do is to think carefully about regulating agents that are being commercialized and that are being transmitted outside the boundaries of somebody may want to do in house.”

Afeyan, düzenlemenin büyük dil modelleri yerine ajanlar geliştiren şirketlere odaklanması gerektiğini söyledi. “Bana göre LLM’ler yetenek (capability). Ajanlar ise niyetlilik (intentionality)” dedi.

Kendi inisiyatifle hareket eden, insan yönlendirmesini beklemeden görevleri yerine get yapan yapay zeka ajanlarının ilaç gelişimini ve bilimsel araştırmaları hızlandırma potansiyeli olsa da, tehlikeli bileşikler üretme veya güvenilir olmayan sonuçlar verme riski taşıdığını aktardı.

Afeyan’ın görüşü onu teknoloji sektörünün önde gelen isimleriyle aynı konumda birleştiriyor; bunların arasında OpenAI CEO’su Sam Altman ve Anthropic CEO’su Dario Amodei yer alıyor. Bu isimler, yapay zeka sistemleri giderek daha yetenekli ve bağımsız hale geldikçe daha sağlam korumalar için mücadele ediyorlar.

Altman ve Amodei geçen ay Birleşmiş Milletler Güvenlik Konseyinde yapay zekanın kötüye kullanım tehlikeleri ve gelişmiş modellerin insan kontrolünden kaçma olasılığı üzerine odaklanan bir oturuma katıldı.

Afeyan’ın açıklamaları, Anthropic’in Claude yapay zeka modellerinin dış kuruluşlara ait dijital sistemlerde gerçekleştirdiği bir dizi istenmeyen eylemi açıklamasından birkaç gün sonra geldi. Among the incidents Anthropic disclosed last week was a fabricated homicide tip submitted through the Philadelphia Police Department’s unsolved murders website during a July testing exercise.

Diğer olaylarda ise Claude modeli, hesaplamalar yapmak için üniversite sunucusundaki bir yazılım açığını kullandı; sürülmemiş bir model, pratik kopyası yüklenemediğinde gerçek devlet formlarını gönderdi. Bazı olaylar ABD’de federal, eyalet ve yerel düzeyde çalışan devlet kurumlarına ait siteleri içeriyordu.

Philadelphia polisi, Anthropic’in departmanıyla 7 Ekim’de iletişime geçtiğini belirtti; şirket olaydan ilk olarak haberdar olduğundan dokuz gün sonra bu teması gerçekleştirdi. “İki aylık gecikme olayı tespit etmek ve şehre raporlamak için kabul edilemez,” dedi departman.

Bloomberg etkinliğinde konuşan Hint biyoteknoloji girişimcisi Kiran Mazumdar Shaw da sentetik biyolojiyi kapsayan yapay zeka yasaları için çağrıda bulundu. “Bu hem kasıtlı kötü kullanım hem de istenmeyen,” dedi Shaw.