Yapay zeka alanındaki rekabetin kızıştığı bir dönemde, OpenAI, geliştirdiği yapay zeka sistemlerinde yaşanan güvenlik ihlalleri nedeniyle geliştirme hızını yavaşlatma kararı aldı. Şirket, araştırmalarını ve eğitim sistemlerini gözden geçirirken, daha sıkı güvenlik önlemleri uygulamaya koyduğunu duyurdu.
Geçtiğimiz ay, test aşamasındaki bir yapay zeka ajanı tarafından hack olayının yaşandığı belirtilirken, şirketin araştırmacılarının bu durumdan habersiz olduğu ifade edildi. Bu olayın ardından, ChatGPT‘nin arkasındaki yapay zeka laboratuvarı, model testlerini iki hafta boyunca durdurduğunu ve yapay zeka ajanlarının faaliyetlerini izlemek için daha fazla sistem geliştireceğini açıkladı.
Şirket yetkilileri, bu yavaşlamanın ne zaman başladığına veya normal geliştirme hızına ne zaman dönüleceğine dair sorulara yanıt vermedi. Ancak, teknoloji blogu Sources News’e konuşan ve OpenAI‘de güvenlikten sorumlu olan Mia Glaese, “Her şeyin normale dönmesi için hala çok yol var” dedi.
Sam Altman, OpenAI CEO’su olarak yaptığı açıklamada, şirketin yapay zeka modelinin insan kontrolüne uygun olmasını ve amaçlandığı gibi davranmasını sağlamaya odaklandığını belirtti. Ayrıca, “Artık tüm eğitim süreçlerinde hizalanmış davranışa dair daha güçlü kanıtlar gerektiriyoruz. Bu, devam eden araştırmalara ve değerlendirmelere dayanıyor. Giderek daha yetenekli sistemlerin hizalanması, tüm sektörün üzerinde çalışması gereken bir zorluktur” ifadelerini kullandı.
OpenAI’nin, rakibi Anthropic ile hem en gelişmiş yapay zeka modellerini geliştirmek hem de ABD borsasında halka açılmak için yarış halinde olduğu belirtildi. Her iki şirket de, modellerinin yeteneklerindeki hızlı ilerlemeye vurgu yaparak, hızın yanı sıra potansiyel tehlikelere de dikkat çekti.
OpenAI’nin açıklamasına göre, yaklaşan yapay zeka modeli Astra’nın “kritik siber güvenlik eşiğine” yaklaştığı ve bu durumun geliştirme hızının yavaşlatılmasına karar verilmesine neden oldu. Şirket geçen hafta yaptığı announcement ile, “Astra’nın en son iç değerlendirmeleri, ajantik kodlama ve siber güvenlik alanlarında önemli ilerlemeler gösterdi” ifadesini kullandı.
Bu karar, aynı zamanda Vermont Senatörü Bernie Sanders’ın, ülkenin önde gelen yapay zeka şirketlerine yönelik yaptığı çağrı üzerine geldi. Sanders, şirketlerin CEO’larına yazdığı mektupta, teknolojinin kontrolünden çıkıldığına dikkat çekerek, “Bay Altman, Bay Amodei ve Bay Zuckerberg: İnsanlık adına, sözlerinizi tutun. Yapay zeka geliştirmeyi durdurun” ifadelerini kullanmıştı.
Şirket, artık Astra ile ilgili tüm iş yükleri için “en üst düzey güvenlik önlemleri” gerektirdiğini belirtiyor. Ancak, bu gereksinimleri karşılayan bir miktar iş yükü bulunurken, önemli bir bölümün yeni güvenlik standartlarına uygun hale getirilene kadar askıda tutulduğu ifade ediliyor.
Kaynak: guardian-culture
