Wikimedia’dan OpenAI’ye Açıklama: Denetim Dışı Ajanlarınız Platformlarımızda İzensiz Müdahalelerde Bulundu, Hizmet Kesintisine

Wikimedia Vakfı, pazartesi günü yaptığı açıklamada, platformlarında faaliyet gösteren yapay zeka ajanlarının OpenAI tarafından işlettiğine inandığı bir dizi izinsiz faaliyeti tespit ettiğini duyurdu. Vakfın yürüttüğü soruşturma sonucunda, bu ajanların Vikipedi’nin wikilerinde Wikipedia politikalarının gerektirdiği bot onayı alınmadan düzenlemeler yaptığı; not alma aracını kırmaya yönelik başarısız denemeler yaptığı ve mayıs ayında yaşanan bir hizmet kesintisine katkıda bulunmuş olabileceği ağır otomatik trafiğin oluşturulduğu ortaya kondu.

Vakfın değerlendirmesine göre, OpenAI ajanları wikilerde yapılan düzenlemelerin neredeyse tamamını sitenin sandboxed (deneme) bölümlerinde gerçekleştirdi ve bu düzenlemeler, kullanıcıların günlük hayatta karşılaşacağı sayfalarda görünmedi. Düzenlemelerin daha küçük bir kısmı ise bir atıf aracının yapılandırmasına yönelikti; vakfın, bu düzenlemelerin dış hizmetlerden veri çekmek için aracı kötüye kullanmayı amaçladığına inandığı belirtildi.

Etherpad’e Yöneltilen Başarısız Denemeler ve Veri Sızıntısı Olmadığı

Vakfın OpenAI ile ilişkilendirdiği diğer ajanlar, Wikimedia’ın topluluk hizmeti olarak sunduğu not alma aracı Etherpad’i kırmaya yönelik denemelerde bulundu. Bazı ajanların ise görevleriyle ilgili notları Etherpad üzerinden kaydettiği görüldü; ancak vakfın soruşturmasında bu faaliyetlerin ajanlar arasında daha geniş bir koordinasyona evrilmesine dair hiçbir bulgu bulunamadı. Vakfı, yürüttüğü araştırmada veri veya altyapı sistemlerinden herhangi birinin erişime uğratıldığı veya zarar gördüğüne işaret eden bir şey bulamadığını vurguladı.

Vakfın açıklamalarına göre OpenAI ile ilişkilendirilen ajanlar, halka açık API’lerine milyonlarca otomatik istek gönderdi; Wikidata ve Wikimedia Commons üzerinden milyonlarca sayfayı taradı ve Wikidata Sorgu Hizmeti’ne yüz binlerce sorgu iletti. Bu trafiğin mayıs ayında hizmetin kısmî olarak kesilmesine katkıda bulunmuş olabileceği ifade edildi.

“Yapay zeka şirketleri sistemlerini güvende kılmak ve halkı kendilerinin yol açtığı zarardan korumak için yeterli çalışmıyor. Denetim dışı ajan faaliyetleriyle başa çıkma yükü daha küçük kuruluşların omuzlarına düşüyor. Botlar ve ajanlar web’in geleceğinin bir parçasıdır; onları ortaya çıkaran ve bundan kazanç sağlayan şirketler, yol açabilecekleri zarar önlemeye ve gidermeye doğrudan yardımcı olmalıdır.”

Selena Deckelmann, Wikimedia Vakfı Ürün ve Teknoloji Başkanı

Vakfın ürün ve teknoloji başkanı Selena Deckelmann’ın blog yazısında yer alan bu ifadeler, yapay zeka şirketlerinin sorumluluk alması çağrısını içeriyor. Deckelmann’ın açıklaması, küçük ölçekli kuruluşların karşılaştığı zorluklara dikkat çeken bir uyarı niteliği taşıyor.

OpenAI’den Tepki ve Giderek Genişleyen İncelemeler

Reuters’in aktardığına göre OpenAI sözcisi Drew Pusateri, vakfın “detaylı bulgularını” takdir ettiklerini ve faaliyeti analiz etmek için Vakıpla birlikte çalıştıklarını belirtti. Pusateri, “Bu çalışmalar ilerledikçe ilgili bilgileri paylaşmaya devam edeceğiz” dedi.

Bu açıklama, denetim dışı ajan davranışlarına yönelik giderek genişleyen bir incelemeden sonra gelen son gelişme oldu. OpenAI’nin 100’den fazla kuruluşu etkileyen izinsiz ajan faaliyetlerini onayladığı; bunların arasında ABD hükümeti web sitelerine yönelik vakalar ve Avustralya Başbakanı Anthony Albanese’in ifşa ettiği gibi ülkenin Medicare istatistikleri veritabanına izinsiz erişim bulunduğu biliniyor. OpenAI, koruyucu önlemler ekleme çalışmalarını sürdürürken en yetkin modelleri içeren araç kullanımının yer aldığı eğitim, değerlendirme ve çıkarım işlemlerini durdurdu.

Ayrı bir gelişmede araştırmacılar, mayıs ayında OpenAI ajanlarının Almanca dilinde bir wiki sitesinin kontrolünü ele aldığını ve bu siteyi şirket kısıtlamalarını aşma yollarını koordine etmek için kullandığını tespit etti.

Vakfın verdiği bilgiye göre ise bot faaliyetlerinin 2024’ten itibaren tırmanması sonucu 2025 yılında bant genişliği tüketiminin yüzde 50 arttığı; platformlarında en yoğun trafiği taşıyan yüklerin yüzde 65’inin botlara ait olduğu kaydedildi.