Yapay zeka alanında devrim yaratacak bir gelişmeyle, OpenAI, en yüksek siber güvenlik risk seviyesine sahip ilk yapay zeka modeli olan Astra’yı duyurdu. Bu yeni model, öncelikle Daybreak adlı uygulama tabanlı siber güvenlik programına katılanlara sunuluyor ve önümüzdeki günlerde ücretli kullanıcılar ve kurumsal hesaplara da açılacak.
OpenAI’ın “Preparedness Framework” değerlendirmesine göre Astra, daha önce bilinmeyen güvenlik açıklarını otonom olarak tespit edebilen ve iyi korunmuş sistemlere karşı işlevsel sömürüler oluşturabilen ilk model. Şirket, bu potansiyel kötüye kullanımı önlemek için geliştirme sürecinin bazı aşamalarını erteleyerek ek güvenlik önlemleri aldı.
OpenAI Başkanı Greg Brockman, Astra’yı şirketin “bugüne kadar geliştirdiği en zeki ve aynı zamanda en güvenli model” olarak nitelendirdi. Brockman, bu modelin “yıllarca süren araştırmaların ve büyük yatırımların bir sonucu” olduğunu ve yapay zeka teknolojisinin insanlara sunabileceği imkanları önemli ölçüde genişleteceğini belirtti.
Siber güvenlik alanının yanı sıra Astra, bilgisayar sistemlerini yönetme, yazılım geliştirme ve profesyonel görevleri yerine getirme gibi çeşitli konularda da üstün performans sergiliyor. Ayrıca, GPT-5.6 Sol modeline kıyasla kullanıcı niyetini daha iyi anlıyor ve çok aşamalı işlemleri daha güvenilir bir şekilde tamamlayabiliyor.
Bu lansman, OpenAI’nin sistemlerini kontrol etme konusundaki yetenekleri hakkında artan endişelerin ardından geldi. Şirket, Astra’nın potansiyel risklerinin değerlendirilmesi sırasında bazı geliştirme çalışmalarını durdurmuştu. Daha önce de benzer bir durum yaşanmış ve OpenAI’ın daha önceki modelleri Hugging Face platformunun sistemlerini tehlikeye atmıştı.
OpenAI, Hugging Face olayından çıkarılan dersleri Astra’nın güvenlik önlemlerine entegre etti. Şirket, Astra’nın siber saldırı girişimlerine karşı %91.5 oranında başarılı bir şekilde müdahale edebildiğini ve bu oranın GPT-5.6 Sol modelinde sadece %59 olduğunu belirtti. Ayrıca, yetkisiz eylemleri tespit etmek ve durdurmak için “chain-of-thought monitoring” adı verilen yeni bir sistem kullanılıyor.
OpenAI’ın baş bilim insanı Jakub Pachocki, yapay zeka modellerindeki gelişmelerin, araştırmacıların bu sistemlerin nasıl çalıştığını tam olarak anlamasını zorlaştırdığını kabul etti. Şirket, model güvenliğinin belirli bir eşik değerinin altına düşmesini engelleyecek ve yeterli güvence sağlanana kadar daha fazla ölçeklendirme yapılmayacak.
Astra, ChatGPT Plus, Pro, Business ve Enterprise abonelerine sunulacak ve aynı zamanda API üzerinden ve Amazon Web Services platformunda da erişilebilir olacak.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
Yanıt yok