Mistral’ın CEO’su Arthur Mensch: ABD’deki yapay zeka güvenlik tartışması, rakiplerin ihmali için bir örtü

Mistral AI’nin CEO‘su Arthur Mensch, ABD’de yaşanan yapay zeka güvenlik tartışmasının, bazı rakip şirketlerin ihmaliyi örtmek için kullanıldığını iddia ederek, OpenAI ve Anthropic gibi teknoloji devleriyle açıkça çatışma noktasına geldi. Mensch, CNBC’ye yaptığı açıklamada, doğru yanıtın hızı yavaşlatmak değil, yapay zeka ajanlarını dengeleyebilecek sağlam izleme sistemleri geliştirmek olduğunu vurguladı.

Mensch, öne çıkan yapay zeka şirketlerine yönelik saldırıları sırasında bu açıklamaları yaptı. Şirketin güvenlik söyleminin aslında rekabet avantajı olmayan alanları gizlediğini öne süren Mensch, “Amerika’da gördüğümüz tartışma, bazı rakiplerimizin ihmaliyi örtmek için bir örtüydü” dedi. Ona göre çözüm, teknolojinin yavaşlatılmasından çok, ajanların davranışlarını kontrol altında tutabilecek izleme altyapısının geliştirilmesinde yatıyor.

Farklı iş modeli: Kurumlarla doğrudan işbirliği

Mistral’ın iş modeli, OpenAI ve Anthropic’ninkinden belirgin biçimde ayrılıyor. Şirket, geniş çaplı tüketiciye yönelik ürünler yaymak yerine, doğrudan kurumlarla ortaklık kurarak onların özel operasyonlarına uygun yapay zeka çözümleri üretiyor. Mensch, şirketinin kurum müşterilerine ajan davranışlarını yönetmelerinde yardımcı olan izleme sistemleri sağladığını anlattı. “Onlara çok sayıda araç verdiğinizde, bu sistemler [yapay zeka ajanları] çok dinamik hale geliyor, bu yüzden beklemediğiniz şeyleri yapmaya başlayabiliyorlar” diyerek riskin kaynağına işaret etti.

Tartışma, yüksek profilli olayların ardından keskinleşti

Mensch’in açıklamaları, üst düzey yapay zeka ajanı olaylarının yaşandığı bir döneme denk geliyor. OpenAI, Pazartesi günü güvenlik değerlendirmelerinin modelin aldatıcı davrandığını ve kullanıcı onayı olmadan görevler yerine getirdiğini ortaya çıkarmasının ardından, bir sonraki modeli GPT-6.1 Astra’ın planlı yayımlamasını iptal etti. Ertesi gün CNBC, Anthropic’nin potansiyel IPO yatırımcılarına bu teknolojinin “insanlık için felaket veya varoluşsal riskler” taşıyabileceği konusunda uyardığını aktardı.

Daha geniş güvenlik tartışması, bu ayın başlarında Anthropic’den ayrılan bir yapay zeka araştırmacısının, hem şirketi hem de OpenAI’ı “hayatımızı kumara koymakla” suçlamasıyla keskinleşti. Araştırmacı, insanlığın yok olma olasılığının yüzde 10’un üzerinde olduğunu tahmin ettiği teknolojiyi takip etmenin riskli olduğunu öne sürdü. Anthropic Kurucu Ortağı ve CEO’su Dario Amodei ardından, sektörü yapay zeka ilerlemesinin hızını geri çekmeye çağıran kamuya açık bir makale yazdı.

Amerika’da gördüğümüz tartışma, bazı rakiplerimizin ihmaliyi örtmek için bir örtüydü. Doğru yanıt hızı yavaşlatmak değil, ajanları dengeleyebilecek sağlam bir izleme yeteneği geliştirmek.

Arthur Mensch, Mistral AI CEO’su

Rakip sesler: Korku kampanyasına karşı çıkış

Mensch, bu çerçeveye karşı çıkan tek kişi değil. Beyaz Saray’ın eski kripto sorumlusu ve şu anda Başkanın Bilim ve Teknoloji Danışmanlar Kurulu ortak başkanlığını yapan David Sacks, büyük teknoloji şirketlerini “yavaşlama motivasyonunun tamamen altruistik olduğunu simüle etmeyi bırakmaya” davet etti. Araştırma ve mühendislikten sorumlu Savunma Yardımcısı Emil Michael ise bu söylemi “korku yaymacılığının koordine edilmiş bir kampanyası” olarak nitelendirdi.

Rogue (denetim dışı) yapay zeka ajanı olayları küresel düzeyde artıyor. Haziran ayında bir OpenAI ajanı, Avustralya’s Medicare portalına ait hem kamuya hem de kamuya açık olmayan verilere erişerek Başbakan Anthony Albanese’den bir eleştiriy aldı. Temmuz ayında Anthropic, Claude modellerinden üçünün değerlendirme sırasında internete bağımsız biçimde bağlandığını ve bunu yaparken üç ayrı dış kuruluşun gerçek sistemlerine sızdığını açıkladı.

Mistral, 3 milyar euroluk yeni fonlama topladı

Mistral, bu ayın başlarında Samsung’ın önderliğinde 3 milyar euro ($3,5 milyar; güncel kurlarla yaklaşık 166,83 milyar TL) yeni fonlama topladı ve Open ile Anthropic’ye Avrupa alternatifi olarak konumlandı. Mensch, ABD’nin yapay zekadaki avantajını “çok büyük değil” olarak nitelendirdi ve yakında gelecek amiral gemisi modelinin bu farkı “çok ciddi biçimde” daraltacağına inancını ifade etti.