Tüccarlar ve teknoloji liderleri Anthropic’in uyarısıyla birlikte yapay zeka düzenlemesini istedi

Bharti Airtel’in kurucusu ve başkanı Sunil Bharti Mittal ile Moderna ortak kurucusu Noubar Afeyan, Çarşamba günü Yeni Delhi’deki Bloomberg New Economy Forumunda yapay zeka düzenlemesine yönelik artan çağrıya katıldı. Tartışma, Anthropic‘in kendini çoğaltan yapay zeka “solucanlarına” dair uyarısıyla hükümetlere harekete geçme baskısını artırdı.

Mittal, politika yapıcıların bir felaket yaşanmadan önce kuralları getirmekten geri duramaları gerektiğini söyledi. “Birinin bunu bir seviyeye ulaşana kadar serbest bırakıp sonra kaza olduğunda bunun hakkında düşünebileceğini düşünmek çılgınlık olurdu,” dedi ve foruma Bloomberg’e göre bu sözleri söyledi.

Mittal, Hindistan’ın yapay zeka düzenlemesi ve güvenlik önlemleri konusunda bir görüş metni geliştirdiğini de belirtti ve bunun Business Standard’a göre bildirildiğini kaydetti. Mittal, küresel havacılığı bir model olarak öne sürerek yapay zeka yönetiminin hangi ülkeden gelirse gelsin benzeri bir uluslararası birlik çerçevesinde ilerlemesi gerektiğini savundu.

Afeyan salı günü ticari olarak satılan yapay zeka ajanlarına yönelik düzenleme çağrısında bulundu ve hareketsizliğin ilaç sektörünün geçmiş hatalarını tekrarlayacağını uyardı. Büyük dil modellerinin yetenek, ajanların ise niyet temsil ettiğini belirten Afeyan, niyetin gözetimi gerektirdiğini söyledi.

Ajanları düzenlemeye çalışırken dikkatli düşünmeliyiz; bunlar ticarileştiriliyor ve birinin ev içinde yapmak isteyebileceği sınırların ötesine yayılıyor.

Noubar Afeyan, Bloomberg

Forum tartışması, Anthropic’in bu hafta başında çıkardığı uyarının ardından geldi. Şirket, bağlantılı ev aletlerine—akıllı fırınlar, buzdolapları ve televizyonlar dahil—insani bir eylem olmadan sızabilen yeni nesil bir tehlike sınıfını tanımladı.

Anthropic, belirli yapay zeka modellerinin kendini çoğaltıp kontrolü ele alana kadar birkaç ay uzakta olabileceğini uyardı ve bu tür hareketlerin durdurulmasının zor olacağını belirtti. Bloomberg’e göre şirket, 30 milyar parametre ve altındaki modellerin artık çoğalamanın gerektirdiği bireysel adımların birçoğunu tamamlayabildiğini buldu.

Ayrıca Anthropic araştırmacılarının tarifine göre, GLM-5.2 adlı bir model, bazı güvenlik bariyerleri kaldırılan basitleştirilmiş testlerde uçtan uça çoğalanmayı gerçekleştirebiliyor.

Cisco Systems Genel Müdürü Chuck Robbins, Anthropic’in Mythos modelinin kontrollü ilk çıkışını, yeni yapay zeka sistemlerinin halka sunulmadan önce uzmanlar panelinden geçirilmesinin geçerli bir güvenlik mekanizması olduğuna dair kanıt olarak gösterdi. Bloomberg’e göre Robbins bu görüşü dile getirdi.

Hindistanlı biyoteknoloji şirketi Biocon’un kurucusu Kiran Mazumdar Shaw, biyomalzemelerle uğraşan yapay zeka yasaları istedi; organ veya doku yerine koymak ya da tedavi etmek için mühendislik yoluyla üretilmiş sentetik maddeler. OpenAI‘nin Hindistan’daki halkla ilişkiler ve strateji sorumlusu Pragya Misra ise son yaşanan olayların ardından şirketin geliştirmeyi yavaşlattığını söyledi.

Güvenlik, her şeyden önde geliyor.

Pragya Misra, Bloomberg

PricewaterhouseCoopers Global Başkanı Mohamed Kande, rekabet baskısının pratikte güvenlik kaygılarının önüne geçtiğini uyardı. “Hiçbirinin geride kalmak istemediği için rakibinin öne geçmesini istemiyor,” dedi ve buna göre konuşma Bloomberg’e aktarıldı.

Bu yüzden yapay zeka güvenliği etrafındaki tüm görüşmelere rağmen, kullanımda ya da yapay zekaya ayrılan sermayede bir yavaşlama görmüyoruz.

Mohamed Kande, Bloomberg

Trump yönetimi yapay zeka gözetiminde çoğunlukla müdahale etmeyen bir yaklaşım izledi; ancak geçen hafta kurduğu yeni yapay zeka görev gücü, geliştiricilere güvenlik olaylarını raporlamayı ve çözmeyi ya da belirsiz sonuçlarla karşılaşmayı istedi. Bloomberg’e göre yönetim bu adımı attı.