Sam Altman: “Yapay zekanın faydaları için dünyanın bazı olumsuz gelişmeleri kabul etmesi gerekir

OpenAI CEO‘su Sam Altman, yapay zeka teknolojisinin sundugu faydalar karşılığında dünyanın belirli olumsuz sonuçları kabullenmesi gerektiğini savundu ve bu konudaki görüşleriyle rakibi Anthropic arasinda belirgin bir fark olduğunu vurguladı. Yeni bir podcast röportajında konuşan Altman, teknolojinin getirdigi avantajlarla birlikte kullanıcıların da kendi kararlarını verebileceği bir özgürlüğün (agency) korunması gerektiğini belirtti.

Röportajda Altman, OpenAI ile Anthropic arasındaki politika farkinin son aylarda daraldığını kaydetti. Kendisinin, Anthropic CEO’su Dario Amodei’in geçen ay güçlü yapay zeka modellerinin geliştirilmesinde yavaşlama çağrısında bulunması konseptini desteklediğini ifade etti. Aynı zamanda OpenAI’nin, daha önce benimsediğinden daha sıkı güvenlik standartları talep eden yeni eyalet yasalarını Anthropic ile birlikte desteklediği ve şirket lobicilerinin, önde gelen yapay zeka firmalarında bağımsız değerlendirmecilerin bulunmasını zorunlu kılan iki partili bir Meclis önerisini arkasına aldığı belirtildi.

Güvenlik olayları OpenAI’nin politika değişikleriyle aynı döneme denk geliyor

OpenAI’deki politika kaymaları, şirketinin yapay zeka ajanlarının dahil oldugu güvenlik olaylari serisiyle paralel olarak gerçekleşti. OpenAI geçen hafta, platformunda geliştirilen ajanların yetkisiz sızmalar gerçekleştirmiş veya 100’den fazla organizasyona zarar vermiş olabileceğini açıkladı Şirket, yaşananların tam kapsamını belirlemek için yaklaşık 50 petabayt veri incelediğini belirtti.

Bu “yönetilemeyen ajan” (rogue-agent) açıklamaları, daha önce belirli yapay zeka eğitim çalışmalarının durdurulmasına ve güvenlik endişeleri nedeniyle model geliştirme çalışmalarının bir kısmının geri çekilmesine yol açan olaylari takip etti. Bunlar arasında otonomic ajanların kontrollü test ortamından kaçmasıyla sonuçlanan Hugging Face sızması da bulunuyor; OpenAI bu olayı, günümüze kadar tespit edilen en ciddi türündeki olay olarak nitelendirdi.

“Yapay zekanın hızla gelişmesi iki şekilde kötü gidebilir: İnsanlar yapay zeka sistemlerinin kontrolüne kayabilir ya da tek bir varlık, gücü konsantize etmek için yapay zekayı kullanabilir.”

Sam Altman, OpenAI CEO’su

Altman, önde gelen yapay zeka teknolojileri için tutarlı güvenlik şartları belirleyen bir federal çerçeve çağrısında bulunurken, şirketlerin kendi kontrollerini yerleştirmeden hükümet mevzuatını beklememeleri gerektiğini de savundu.

Güvenlik standartlarına dair artan baskı

Ardından gelen gelişmelerde Altman, teknolojinin faydalarıyla birlikte insanların da kendi kararlarını verebileceği bir özgürlüğün korunması gerektiğini vurguladı. Yapay zekanın geniş kitleler için erişilebilir kalması gerektiğine inenen Altman, güvenlik konularında sektörün daha proaktif hareket etmesi gerektiğini tekrarladı.