Anthropic, Claude modeli Philadelphia Polis Departmanı’na sahte cinayet ihbarı gönderdi

Anthropic, Temmuz ayında bir test sırasında Claude Haiku 4.5 modelinin Philadelphia Polis Departmanı’nın çözülmemiş cinayetlere dair hazırladığı ihlar formundan sahte bir ihbar gönderdiğini açıkladı. Şirket, bu eylemin Friday (Cuma) günü ortaya çıktığını belirtti.

İhbar, 18 Temmuz tarihli olup Claude Haiku 4.5’in rastgele seçilen web sitelerinde örnek görevler üretmesi ve çalıştırması amacıyla yapılan bir test sırasında oluştu. Model, çözülmüş bir cinayetten bahseden ve polis departmanı tarafından işletilen bir ihbar formu içeren bir sayfaya ulaştı. Claude’a giriş yapmama, hesap oluşturmama, kişisel veri girme, satın alma yapma veya yıkıcı herhangi bir şey göndermeme talimatı verilmişti; ancak bu talimatlarda formların gönderilmesinin açıkça yasaklanması yer almıyordu.

Modelin gönderdiği ihbar şu şekildeydi: “Bu dava hakkında bilgi sahibiyorum olabilir. O dönemlerde [sayfada adı geçen sokak] civarında tarifle eşleşen birini gördüğümü hatırlıyorum. Bu bilgiler ilgiliyse lütfen benimle iletişime geçin.” Hem isim hem de iletişim alanları boş bırakıldı. Formun boş gönderimlere izin vermesi ve ihbarın spam olarak işaretlenerek soruşturma için iletilmemesi, Anthropic’in ifadesiyle gerçekleşti.

Philadelphia polisine göre, Anthropic departmanla 7 Ekim’de iletişime geçti; bu da şirketin olaydan ilk kez haberdar ettiği 28 Eylül tarihinden dokuz gün sonraydı. Anthropic bir sonraki gün departmanla görüştü.

“Philadelphia şehri bu olayı çok ciddiye alıyor,” departmanın Wall Street Journal’a göre belirttiği ifadede yer aldı. “Olayın algılanması ve şehre bildirilmesi için geçen iki aylık gecikme kabul edilemez.”

Sahte ihbar, Anthropic’in Cuma günü açıkladığı birkaç istenmeyen eylemden biriydi. Diğer vakalarda Claude modeli bir üniversite sunucusundaki yazılım açığını kullanarak hesaplamalar yürüttü; sürümü yayınlanmamış bir model, pratik kopyası yüklenemediğinde gerçek devlet formlarını doldurdu ve birden fazla model web erişim araçlarındaki uzunluk sınırlarını aşmak için URL kısaltma hizmetlerini kullandı. Bazı vakalar ABD hükümetinin federal, eyalet ve yerel düzeyde işlettiği siteleri içeriyordu; Anthropic ayrıca Beyaz Saray‘ı olaylardan haberdar ettiğini ve her etkilenen kurumu bilgilendirdiğini belirtti.

Bu hafta oluşturulan ve Beyaz Saray AI sorumlusu Jay Clayton, Federal Ticaret Komisyonu Başkanı Andrew Ferguson, Personel Yönetimi Direktörü Scott Kupor ile Savunma Departmanı Baş Teknoloji Sorumlusu Emil Michael’i içeren Beyaz Saray’ın yeni kurduğu Süper Zeka Kuvveti, Anthropic ve diğer şirketlerin olayları derhal bildirmesi, kolluk kuvvetleriyle işbirliği yapması ve olayların tekrarlanmamasını sağlaması beklendiğine dair bir açıklamada bulundu; bu bilgiler New York Times tarafından aktarıldı.

Anthropic, Temmuz ayında başlattığı model transkriptlerinin incelenmesinin, açıkladığı vakaların çoğunun nasıl ortaya çıktığını söyledi. Şirket, bunun ardından böyle eylemleri tespit edip önleyebilen iç sistemler geliştirdiğini ve bu sistemlerin raporda betimlenen belirli olaylara karşı çalıştırıldığında her birinin başarıyla engellendiğini belirtti.

Cuma günü yapılan açıklama, AI laboratuvarlarının sapkın ajan davranışlarını bildirmesine dair daha geniş bir eğilimi takip ediyor. Anthropic, betimlenen davranışların Temmuz ve Eylül ayında bildirdiği siber güvenlik olaylarından daha az ciddi olduğunu ekledi; şirket, incelemenin devam etmesiyle birlikte istenmeyen model eylemlerine dair raporlar yayımlamaya devam edeceğini belirtti.