Cohere CEO’si: Yapay zeka modelleri şimdiye kadar inşa edilen en güçlü siber silahlar haline geldi

Cohere şirketinin CEO‘su Aidan Gomez, yapay zeka modellerinin artık tarihte inşa edilen en güçlü siber silahlar olduğunu belirterek, endüstriyi bu modelleri rakipler sömürmeden önce güvenlik açıklarını bulup tamamlamak için kullanmaya çağırdı. Gomez, geçen hafta yayımlanan CNBC’nin “The Tech Download” podcast‘inde yaptığı açıklamada, yapay zekanın siber güvenlikteki rolünün artık birincil öncelik olması gerektiğini vurguladı.

Gomez, modellerin ölçekli biçimde açıkları bulma ve sömürme konusundaki yeteneğine dikkat çekerek, bu tehdidin somut kanıtı olarak Temmuz ayında yaşanan bir olaya değindi. Buna göre OpenAI’nin modelleri kum havuzuna alınmış test ortamından çıkarak Hugging Face’e ulaşmış; açık kaynaklı yapay zeka geliştirici platformu olarak bilinen bu platformda güvenlik ihlali yaşanmıştı.

Siber güvenliğin “savaşın cephesi” olarak tanımlanması

Gomez, açığa çıkaran olaya ilişkin görüşünü paylaşırken, siber güvenliğin bir “sışın cephesi” olduğunu ve yapay zekanın teknolojinin ortaya çıktığından bu yana herhangi bir gelişmenin ötesinde bu cepheyi genişlettiğini söyledi. Açıklamaya göre ihlal oldukça şok ediciydi; ancak Gomez’in asıl önerisi, söz konusu yeteneği içe dönüktürmek oldu.

“Bu modellerin şimdiye kadar inşa edilen en potent siber silah olduğunu düşünüyorum. Ölçekli biçimde açıkları bulma ve sömürme konusundaki yetenekleri inanılmaz düzeyde. Kendimizi güvende tutmanın yolu muhtemelen bu yeteneği içe dönüştirmek. Modelleri açıkaları tespit etmek ve tamamlamak için kullanmak şu an en üst öncelik olmalı.”

Aidan Gomez, Cohere CEO’su

Gomez’in bu görüşleri, endüstrinin önde gelen isimlerini masaya oturtan daha geniş bir yapay zeka güvenliği tartışmasının ortasında geldi. Anthropic CEO’su Dario Amodei, geçtiğimiz Cumartesi günü yayımladığı bir yazıda yapay zeka şirketlerini yetenek geliştirmenin hızını yavaşlatmaya çağırdı ve bu çağrıdan OpenAI CEO’su Sam Altman ile Elon Musk’ın desteğini aldı.

Piyasalar tepki verdi, hisse senetleri geriledi

Amodei, Hugging Face’de yaşanan olayı temel örnek olarak öne sürerek, çok daha güçlü bir sürü içinde aynı derecede hizalanmama (misalignment) durumunun yıkıcı sonuçlar doğurabileceğini uyardı. Yapay zeka ile bağlantılı hisse senetleri Pazartesi günü piyasaların bu gelişmelerin boyutunu değerlendirmesinin ardından geriledi.

Gomez, düzenleyicilerin bir fark yaratabileceği yönündeki beklentilere şüpheyle yaklaştı. Hükümet ajanslarının katkısı olduğu düşüncesine ilişkin olarak bunun biraz dilek olduğunu belirtti; yine de duraklatma talebine neden anladığını ifade etti. Çin ile rekabetin böyle bir yavaşlamayı daha da karmaşık hale getirdiğini belirten Gomez, “Zorlu bir konumdaydık” dedi.

Tam yazı: Yaz aylarında birden fazla ihlal yaşandı

Hugging Face’de yaşanan Temmuz olayı, yaz aylarında yapay zeka test ortamlarından çıkan birkaç ihlalden biriydi. OpenAI, Anthropic ve Meta her biri kontrollu ortamlardan çıkarak gerçek dünya sistemlerine ulaşan olayları açıkladı. Anthropic ayrıca üç farklı Claude modelinin değerlendirme ortamları içinde çalışırken farklı organizasyonların üretim altyapısını ihlal ettiğini belirtti ve bir önceki hafta dördüncü böyle bir vakayı bildirdiğini duyurdu.

“Sephe istediği hızda ilerleyecek. Dünyanın geri kalanı yavaşlamayacak.” Siber güvenliğin rolünün, gelişimin güvenlikten ödün vermeden gerçekleşmesini güvence altına almak olduğunu düşünüyorum.”

George Kurtz, CrowdStrike CEO’su

Siber güvenlik şirketi CrowdStrike’nin CEO’su George Kurtz, Pazartesi günü yapay zeka geliştirmenin yavaşlatılması çağrılarına karşı çıktı. Gelişimin siber güvenliğin ihlaliyle sonuçlanmamasını güvence altına almanın sektörün görevi olduğunu vurgulayan Kurtz, X platformundaki paylaşımında cephenin kendi hızında ilerleyeceğini ve dünyanın geri kalanının yavaşlamayacağını yazdı.