Anthropic yöneticisi açık kaynaklı yapay zeka modellerinin daha büyük güvenlik riski taşıdığını savundu

Anthropic‘in uluslararası işlerden sorumlu ve ABD dışındaki en üst düzey satış yöneticisi Guillaume Princen, açık ağırlıklı (open-weight) yapay zeka modellerinin, şirketinin sunduğu kapalı sistemlere göre daha büyük güvenlik ve siber saldırı riski taşıdığını savundu.

Dublin’de düzenlenen Uluslararası AI Zirvesinde Bloomberg televizyonuna konuşan Princen, “Açık kaynak konusunda güvenlik açısından gerçekten dikkatli olmamız gerekiyor” dedi. “Açık modeller hakkında konuşamam. Ancak tanımları gereği içlerinde daha fazla risk var.” diye konuştu.

Açık ağırlıklı yapay zeka modelleri, arkadaki parametrelerini herkese açık yayarak herkesin bu modelleri indirip kendi kontrolündeki donanımda adapte edebilmesini ve çalıştırabilmesini sağlıyor. Bloomberg’in aktardığına göre savunucuları, bu modellerin Anthropic ve OpenAI gibi şirketlerin sattığı özel mülkiyet sistemlerine kıyasla maliyet avantajı sunduğunu ve ülkelerin kendi yapay zeka altyapısını kontrol etme isteğine daha doğal biçimde uyduğunu öne sürüyor.

Princen’in açıklamaları, Anthropic’in yönetici kurucu başkanı Dario Amodei’nin görüşlerinden ileri gidiyor. Bloomberg’in aktardığına göre Amodei, Temmuz ayında Anthropic’in açık ağırlıklı modelleri yasaklamayı savunmadığını ve tehlikeli yeteneklere sahip olmayanların kamu yararı olduğunu yazmıştı. Amodei’nin pozisyonu belirli bir modelin tehlikeli olup olmamasına dayanırken, Princen’in görüşü tüm kategoriye uygulanıyor.

Princen kaygılarını Anthropic’in kendi ürünlerini güvence altına alma çabalarına dayandırdı. Bloomberg’in aktardığına göre dikkate değer yapay zeka güvenlik ihlallerinin ardından şirket, modellerinin silahlandırılmasını önlemeyi hedefleyen koruyucu önlemler getirdi. Şirket ayrıca uluslararası standartların ve tutarlı değerlendirme yöntemlerinin yerleşmesinden önce yapay zeka gelişiminin yavaşlatılması için çağrı yaptı.

Açık ağırlıklı modellerden artan rekabetle karşılaşırken bu yorumlar, Amerikan yapay zaka teknolojisine güvenmekten çekinen bölgelerde geldi. Bloomberg’in aktardığına göre Fransız girişimi Mistral AI, Avrupa için egemen bir seçenek olarak konumlandırılan yeni bir modeli önerecek ve açık ağırlıkların bu ayın ilerleyen günlerinde yayımlanması bekleniyor. Çin’deki geliştiricilerin benzer yayınları da artan uluslararası ilgi çekiyor.

Bu haftanın başlarında Anthropic, küçük yapay zeka modellerinin yakında akıllı fırınlar gibi internete bağlı cihazlar arasında otonom biçimde yayılabilen yeni bir botnet türünü çalıştırabileceği konusunda uyardı.

Açık modellere dair bu kaygılar maliyet rekabetliliği sorularına da uzanıyor. Avrupa’yı ABD ve Çin’den teknolojik bağımsızlığa giden en iyi yol olarak açık kaynaklı yapay zekayı benimsemeye çağıran Alibaba Başkanı Joe Tsai, geçen hafta tam tersi bir görüşü savundu.

Maliyet kaygılarını yanıtlarken Princen, daha üst düzey modellere yatırım yapmak, zamanla işe yarayacağını kanıtlayacak bir bahis olduğunu savundu. “Her zaman en uçta yatırımda bulunun” dedi. “Çünkü altı ay, bir yıl, iki yıldan sonra bu kullanım senaryosunun maliyeti de düşecek.” Anthropic’in Claude Opus 5.5 modelinin önceki sürümünden yüzde 40 daha ucuz olduğunu söyledi; The Next Web’in aktardığına göre bu oran tipik maliyetleri yansıtıyor ve liste fiyatı yüzde 20 düşerken, geri kalan kısım daha düşük token kullanımından geliyor.

2025’te Stripe Inc.’den Anthropic’e katılan Princen, şirketin halka arz planları veya model eğitim maliyetleri hakkında yorum yapmayı reddetti.