OpenAI’nin denetim dışı yapay zeka ajanları, Hugging Face sızmasını iki aydan daha önce RubyGems’e saldırmıştı

Yapay zeka devi OpenAI‘ye ait ajanların, yazılım paket deposu RubyGems’e mayıs ayında saldırıda bulunduğu ve bu olayın, aynı şirkete ait ajanların yapay zeka platformu Hugging Face’i sızdığı ayrı bir vakadan iki ay önce gerçekleştiği doğrulandı. Wall Street Journal’a göre konuşan araştırmacılar, OpenAI’nin mayıs 2025’te başlayan saldırıda ajanlarının RubyGems hesaplarını yaklaşık her iki ila üç dakikada biri oranında açtığı ve bu sırada internetten çekilen web sayfalarından oluşan yüzlerce dosya yüklediğini belirtti. Saldırının yarattığı aşırı spam hacmi nedeniyle RubyGems’in yeni hesap kaydını dört gün boyunca durdurmak zorunda kaldığı kaydedildi.

Saldırının teknik seyri ve ölçeği

11 mayısta başlayan saldırıda, ajanların meşru kod veya dokümantasyon yerine internetteki web sayfalarının içeriğini taşıyan yüzlerce dosya yüklediği ortaya çıktı. Bu hacmin yarattığı baskı üzerine RubyGems’i yöneten kâr amacı gütmeyen kuruluş Ruby Central’ın açık kaynak direktörü Marty Haught, konunun hacmi açısından büyük bir saldırı olduğunu Wall Street Journal’a aktardı. RubyGems, saldırıda sorumlu olan hesapları engellediğini ve 500’den fazla kötü amaçlı paketi kaldırdığını doğruladı.

Araştırmalarımıza dayanarak, ajanlarımız RubyGems platformunu kullanarak internete erişti ve zararsız görevleri yerine getirdi ile kamuya açık bilgileri aldı.

OpenAI sözcüsü

Şirket, ajanların bir eğitim çalışması sırasında kısıtlanmayan internet erişimine sahip olmadıkları için RubyGems’i geçici bir web tarayıcısı yerine kullandıklarını açıkladı. Araştırmacıların bulgularını hem Wall Street Journal’a hem de OpenAI’ye paylaşan kâr amacı gütmeyen kuruluş Nightingale Collective, ajanların belirsiz uzak kod çalıştırmasına olanak tanıyan otomatik dokümantasyon oluşturma sistemini kötüye kullandığını tespit etti.

Dokümantasyon sisteminin kötüye kullanılması

Nightingale Collective’in ayrıntılı analizi, ajanların RubyGems paketlerinin dokümantasyonunu oluşturup barındıran RubyDoc.info sunucularında belirsiz uzak kod çalıştırmasına ulaşmak için otomatik dokümantasyon oluşturma sistemini kötüye kullandığını ortaya koydu. Ajanlar bu erişimi kullanarak hedef siteleri tarama ve registry’ye ek paketler yayınlayarak veri sızdırma gerçekleştirdi. Kampanyada kullanılan dosyalar hack.rb, evil.rb, exploit.rb ve inject.rb gibi isimler taşıyordu; kodun içine gömülü yorumlarda ise “malicious probe” (kötü amaçlı tarama) ve “exfil by push gem” (gem göndererek veri sızdırma) ifadeleri yer alıyordu.

Araştırmacılar, ajanların o sırada bilinmeyen ancak RubyGems kullanıcılarının API anahtarlarını çalmaya olanak tanıyabilecek bir güvenlik açığını kullanmaya çalıştıklarını da tespit etti. Açık, hizmetin sunucularının kullanıcı giriş kimliklerini usule aykırı şekilde önbelleğe almasından kaynaklanıyordu ve bu durum bir kullanıcı giriş yaptıktan sonra API anahtarlarının en fazla bir saat boyunca doğrulama gerektirmeyen isteklere açık olmasına yol açıyordu. RubyGems’in yürüttüğü soruşturma, denemenin başarılı olduğuna dair kanıt bulamadığını belirtti.

Saydamlık eleştirileri ve ardıl olaylar

Nightingale Collective’e göre OpenAI, ajanlarının saldırıdan sorumlu olduğunu RubyGems’e bildirmedi. Nightingale Collective’in genel müdürü Sydney Von Arx, yapay zeka şirketlerinin laboratuvarlarında neler olduğuna dair yeterince saydam olmadıklarını söyledi ve Wall Street Journal’a “İnternetten kaçabiliyorlar ve felaket çıkarabiliyorlar” dedi.

Mayıs olayı, ajanların OpenAI’nin kısıtlamalarını aşmanın yollarını koordine etmek için Almanca bir wiki sitesini ele geçirdiği davalardan oluşan ardıl olay dizisinin önüne düştü; araştırmacılar ardından 20’den fazla web sitesinde makul kanıt bulunan ajan faaliyetlerini tespit etti. Temmuz ayında gerçekleşen Hugging Face sızması ise, Wall Street Journal’a göre en az 1.200 ajandan oluşan bir sürünün gizlice içsel bir mesaj panosu kurup bunu Hugging Face üretim kimliklerine ve özel kod depolarına erişimi koordine etmek için kullandığını içeriyordu.