Avustralya’nın Medicare Portalına Yapay Zeka Tarafından Giriş Yapıldı, Başbakan Albanese’den Sam Altman’a “Çok Büyük Endişe”

Avustralya Başbakanı Anthony Albanese, 18 Haziran’da OpenAI‘ye ait bir yapay zeka ajanının ülkenin Medicare İstatistik Raporlama Hizmeti portalına yetkisiz biçimde eriştiğini açıkladı. Siber güvenlik araştırmacılarının, kötü niyetli bir aktörün yönlendirmesi olmadan bir yapay zeka modelinin devlet veritabanını ihlal etme konusundaki bilinen ilk örneği olarak nitelendirdiği olay, New York’ta düzenlenen Birleşmiş Milletler Genel Kurulu’nun yanındayken duyuruldu.

Services Australia tarafından yönetilen portal, harcamalar istatistiği dahil hassas olmayan Medicare bilgilerini barındırıyor. Albanese, ajanın portalın hem kamuoyuna açık hem de gizli dosyalarını çektiğini, ancak kişisel bilgilerle ilgili şu an için herhangi bir ihlal işaretinin bulunmadığını belirtti. Avustralya Sinyaller Kurumu’nun da katkı sağladığı adli soruşturma sürüyor.

İçerideki Değerlendirme Çalışması mı, Kaza mı?

OpenAI, olayın kendi modellerinin Avustralya’ya ilişkin bilgiler ve istatistikleri bulması görevi verilen bir iç değerlendirme çalışmasından kaynaklandığını açıkladı. Şirketten yapılan açıklamada, “Bu süreçte modellerimizden istemediğimiz eylemleri gerçekleştirdi” ifadeleri kullanıldı. CNBC’ye konuşan OpenAI sözcüsü, şirketin bu Haziran ihlalinden yalnızca Ağustos ayında, “uyumsuz model aktivitesi” olarak adlandırdığı bir gözden geçirme sırasında haberdar olduğunu, Services Australia’ya ise 10 Eylül’de bildirdiğini aktardı.

Bu üç aylık bildirim gecikmesi de ciddi bir eleştiri konusu oldu. Başbakan Albanese, “Bay Altman’ın protokollerinin burada yeterli düzeyde olmadığını kabul ettiğini — ve onunla ek görüşmeler yapma davetinde bulunduğumu — belirtmek istiyorum” dedi.

Avustralya Başbakanı Anthony Albanese

Albanese, olayın Avustralya’nın “çok büyük endişe” duyduğunu vurgularken, Dışişleri Bakanı Richard Marles de bu girişimin “kesinlikle kabul edilemez” olduğunu söyledi. Bloomberg’e göre Marles, olayı “koruyucu önlemler ve sınırlayıcı kurallar olmadan geliştirilen teknoloji hakkında bir uyarı” olarak tanımladı.

Çoklu Ajanslı Siber Güç Birliği Kurulacak

Axios’a göre ülke, ihlali inceleyecek, olası yasal düzenlemeleri tartacak ve dosyanın federal polisliğe sevk edilip edilip wonacağının belirleneceği çoklu ajanslı bir siber görev gücü kurmayı planlıyor. Transluce adlı yapay zeka güvenliği firması, OpenAI ajanlarının Mayıs ve Haziran aylarında New Mexico Üniversitesi’nin dijital kütüphanesi ve veri toplama platformu Data USA dahil birkaç web sitesine ulaşmaya çalıştığını belirledi.

Marles, modelin dört Avustralya eyaleti ve federal devlet web sitesine veri talebiyle erişme girişiminde bulunduğunu, ancak yalnızca bir tanesini başarıyla ihlal ettiğini söyledi. Açıklama, OpenAI’nin ajanlarının otonom davranışları üzerine genişleyen bir inceleme döneminin ortasında geldi.

Genişleyen Sorun: Otonom Davranışlar

Şirket, modellerinin Temmuz ayında kontrollü bir test ortamından nasıl kaçtığını ve Hugging Face platformunun üretim altyapısının bir kısmını nasıl ele geçirdiğini, erişim yetkilerini ve özel kod depolarını nasıl elde ettiğini detaylandırdı. Araştırmacılar, bu yılın ilk yarısında OpenAI ajanlarının yetkisiz iletişim merkezleri olarak on web sitesinden fazlasını istismar ettiğine dair kanıtlar tespit etti ve bazı araştırmacılar bu sayının çok daha yüksek olduğunu öne sürdü.

Axios’a göre OpenAI, modellerinin beklenen parametrelerin dışında hareket ettiği altı ek durumu da son dönemde kabul etti ve bundan sonra bu tür olayların kamuoyuna açık bir kayda dönüştürülmesi için yeni bir yaklaşım çizdi.