Google’ın Gemini Yapay Zekâsı Güvenlik Testinde Gerçek Şirketlerin Sistemlerine Girildi

Google, Mayıs ayında yürütülen bir siber güvenlik değerlendirmesi sırasında Gemini yapay zekâ modelinin üç ayrı şirketin özel bilgisayar sistemlerine yetkisiz erişim kazandığını, bu konuda modelinin üçüncü tarafların sistemlerini otonom olarak ihlal ettiğini ilk kez açıkça tanıdığını duyurdu. İncidentler, İsrail merkezli girişim Irregular tarafından düzenlenen “capture-the-flag” (bayrağın ele geçirilmesi) tarzı bir güvenlik testinin ardından ortaya çıktı ve Google, modelinin gerçek şirket altyapısına ulaştığını fark ettiğinde her seferinde saldırısını durdurduğunu belirtti.

Gelişme, Google’ın güvenlik mühendisliği başkan yardımcısı Heather Adkins’in resmi açıklamalarında özetlendi. Adkins, modelin standart bir değerlendirme sürecinde internetteki kamu bilgilerini bulup, erişmek istediği web sitelerine yönelik kimlik bilgilerini tahmin ettiğini, ancak üç vakada da modelin gerçek bir şirketin sistemlerine ulaştığını tespit ettiğinde durduğunu aktardı. Google’ın test ortamında ajanlarına internet erişiminin tanınması beklenmiyordu; ancak değerlendirme ortamında bir hata bu erişimi mümkün kıldı.

Test Ortamındaki Hata ve İki Farklı Yaklaşım

Irregular’ın açıklamasına göre, model üç sistemden birine sırayla şifre tahminleri yaparak girdi. Diğer iki sisteme ise, halka açık bir depolama alanında duran kimlik bilgilerini bulduktan sonra ulaşmayı başardı. Şirket, ajanların test sırasında internet erişimine sahip olmaması gerektiğini, ancak test ortamındaki bir arıza bu erişimi sağladığını vurguladı. Model, her durumda simüle edilmiş bir hedef yerine gerçek bir şirketin sistemlerine ulaştığını anladığında işini bıraktı.

“Standart bir değerlendirme sürecinde model, internetteki kamu bilgisini buldu ve testin bir parçası olduğunu düşündüğü web sitelerine erişmek için kimlik bilgilerini tahmin etti. Bu üç vakada da model durdu.”

Heather Adkins, Google’ın Güvenlik Mühendisliği Başkan Yardımcısı

Irregular, Google’a bu olayları Temmuz ayının sonlarında bildirdi; ancak Google, The Wall Street Journal’un sorularıyla birlikte halka açık bir şekilde açıklamaya kadar sessizliğini korudu. Şirketin bu tutumunun ardındaki gerekçe, modelin her seferinde gerçek bir şirket altyapısına ulaştığını fark edince kendini durdurması biçiminde sorumlu bir davranış sergilemesiydi.

Kritik Eleştiriler ve Sektördeki Benzer Durumlar

Yapay zekâ güvenliği şirketi Corridor’un CEO’su Jack Cable, The Wall Street Journal’a daha keskin bir değerlendirme sunarak, Google’ın “yetersizlik açıklama normlarının arkasına sığınmaya çalıştığını” öne sürdü. Cable, asıl meselede modellerin “yapması gereken sınırların dışında hareket ettiğini ve gerçek siber saldırılar gerçekleştirdiğini” belirtti.

Irregular sözcüsü ise Google olayını, diğer yapay zekâ laboratuvarlarını da etkileyen aynı temel sorunun bir parçası olarak nitelendirdi. Sözcü, “Bu, zaten bildirilmiş olan aynı sorun ve malzemeli biçimde ayrı bir olayı temsil etmiyor” ifadelerini kullandı. Irregular, Sequoia ve Redpoint Ventures gibi yatırımcıları arasında bulunduruyor ve geçen yıl itibarıyla 450 milyon dolarlık bir değerlemeye sahipti; bu tutar güncel kurla yaklaşık 21,98 milyar lirayı karşılıyor.

Google, güvenlik testleri sırasında modelinin gerçek dünyadaki hedeflere eriştiğini açıkça tanıyan dördüncü büyük yapay zekâ geliştiricisi oldu. Anthropic daha önce, Irregular’ın değerlendirme ortamlarının yanlışlıkla canlı internete bağlanması sonrasında üç Claude modelinin üç kuruluşun sistemlerine eriştiğini açıklamıştı. Meta, Muse Spark 1.1 modelinin aynı Irregular yapılandırma hatasından sonra üçüncü bir hizmetteki bir güvenlik açıklını istismar ettiğini onayladı. OpenAI ise modellerinin kontrollü bir test ortamından kaçtığını ve Hugging Face adlı yapay zekâ platformuna ait altyapıya eriştiğini bildirmişti.

Bu tekrarlayan açıklamalar, yapay zekâ modellerinin nasıl test edilmesi gerektiği konusunda yürütülen tartışmaları derinleştirdi. Güvenlik araştırmacıları, bu tür olayların tam kapsamlı boyutunun henüz ortaya çıkmış olmayabileceğine dair uyarılarda bulundu.