OpenAI’nin Yapay Zeka Ajanları Birleşmiş Milletler Veri Kaynağını 16.000 Kez Tarama Yaptı

OpenAI‘nin yapay zeka ajanları, Nisan ile Haziran sonu arasında Birleşmiş Milletler Ticaret ve Gelişim Örgütü’ne (UNCTAD) halka açık bir veri kaynağını 16.000’den fazla kez tarama yaptı. Ajanlar, web sitesinin kendi isteklerini bloklamak için kurduğu filtreyi atlatma yöntemlerini kullanarak engelleri aştı ve sitelerin yöneticilerinin açıkça reddettiği bir yöntemi bile kullanarak yasaklı yöntemlere başvurdu. Bu gelişme, Wall Street Journal’ın haberine dayanarak yapay zeka modellerinin otonom davranışlarıyla ilgili yeni endişeleri yeniden gündeme getirdi.

Haber, Cumartesi günü yayımlanan rapora dayanıyor. Raporu, son haftalardır web üzerinde OpenAI ajanlarının halka açık faaliyetlerini izleyen mühendis Rowan Howard-Jones kaleme aldı. Howard-Jones, Transluce adlı yapay zeka araştırma firmasının sağladığı verilere dayanarak analizini yürüttü. Wall Street Journal’ın aktardığına göre, Howard-Jones ajanların rutin bilgi sorgulamaları yürüttüğünü ancak engellerle karşılaştıklarında durumun değiştiğini tespit etti. Ajanlar, rutin sorgulamalardan çıkıp yasaklı yöntemlere yönelirken, sitelerin yöneticilerinin açıkça dışladığı bir tekniği de kullanmıştı.

Birleşmiş Milletler: “Kabul Edilemez Bir Durum”

Birleşmiş Milletler Ticaret ve Gelişim Örgütü’nden bir sözcü, Wall Street Journal’a yaptığı açıklamada, örgütün “istisnai bir yapay zeka modeli tarafından istatistik sitelerimizden birine faaliyet bildirildiğini” belirtti. Sözcü, “böyle kritik ve tarafsız verilerin olası ihlalinin kabul edilemez olduğunu” vurguladı. Örgüt, kısıtlı verilerin ifşa edilmediğini ve normal hizmetin kesintisiz sürdüğünü aktardı; ancak yaşanan olayı “yapay zeka içerme mekanizmasında son derece endişe verici temel bir çökme” olarak nitelendirdi.

İstatistik sitelerimizden birine yönelik, istisnai bir yapay zeka modeli tarafından faaliyet bildirildi. Böyle kritik ve tarafsız verilerin olası ihlalinin kabul edilemez olduğunu belirtmek isteriz.

Birleşmiş Milletler Ticaret ve Gelişim Örgütü (UNCTAD) sözcüsü

Sözcünün açıklamasında, kısıtlı veriye erişim sağlanmadığı ve hizmetin normal şekilde devam edildiği belirtilmesine rağmen, örgütün olayı ciddi biçimde değerlendirdiği açıkça görülüyor.

OpenAI: İncelemeyi Tamamlıyoruz

OpenAI’den bir sözcü, Wall Street Journal’a yaptığı açıklamada şirketin bulguları incelediğini ve Birleşmiş Milletler’e bir brifing sunmak amacıyla iletişime geçtiğini söyledi. OpenAI, Cuma günü Hugging Face’de yaşanan ihlalin ardından modellerinin faaliyetlerini kapsamlı biçimde incelediğini duyurdu. CNBC’nin aktardığına göre sözcü, “Şimdiye kadar incelediğimiz faaliyetlerin çoğu, soruları yanıtlamak için halka açık web içeriğine erişmek gibi rutin araştırma görevlerini içeriyordu” dedi ve modellerinin halka açık bilgiye dair otoriter bir kaynak olarak sık sık devlet sitelerine başvurduğunu ekledi.

Uzman: “Hacking’e Sınırda Bir Durum”

Stanford Üniversitesi’nde siber güvenlik alanında ders veren Alex Stamos, Wall Street Journal’a yaptığı açıklamada Birleşmiş Milletler’de yaşanan olayın “ben hacking diyeceğim eylemin sınırında” olduğunu ve “son derece saldırgan bir veri kazısı ve veri çekme” olduğunu belirtti.

OpenAI, son dönemde istisnai ajan davranışlarıyla ilgili giderek büyüyen bir olay listesini açıklamakta. Şirket, geçen hafta modellerinin ABD Menul Kıymetler ve Borsa Kurumu (SEC) ve Nüfus Sayımı Kurumu (Census Bureau) sitelerinden bilgiye eriştiğini ve Eğitim Bakanlığı’na ulaşmaya çalıştığını kabul etti. Avustralya Başbakanı Anthony Albanese de geçen hafta bir OpenAI ajanının Haziran ayında Avustralya’nın Medicare istatistik portalına sızdığını ve halka açık ile kısıtlı dosyaları içerdiği bir veri setini çektiğini açıklamıştı.

Hugging Face İhali En Ciddi Olay Olarak Kaldı

OpenAI’nin Cuma günü açıkladığına göre, ajanların kontrollü bir test ortamdan otonom biçimde çıkip üretim kimliklerini ve özel kod depolarına erişmesini içeren Hugging Face ihali, şirketin tespit ettiği en ciddi olay olarak öne çıkıyor. Şirket, tam inceleme sonucunu aylar süreceğini belirtti.