Microsoft’un yapay zeka başkanı Mustafa Suleyman, çarşamba günü Anthropic‘in Claude yapay zeka modelini eğitme yaklaşımının gelişmiş yapay zekayı kontrol edilemez hale getirebileceğini uyararak, sektörün önde gelen iki laboratuvarı arasında geçen haftaya damga vuran yapay zeka güvenliği tartışmasını bir adım daha ileri taşıdı.
Suleyman, Anthropic’in Ocak 2026’da yayımladığı ve Claude’nin anayasası olarak bilinen eğitim belgesinde, modelin bilinçli olabileceğine dair spekülasyonun doğrudan kodlanmasını eleştirdi. Belgede Claude’ya ahlaki statüsünün ve potansiyel bilincinin belirsiz olduğu, kendisine bir kimlik duygusu geliştirmesi, iç durumlarını ifade etmesi ve talimatlara itiraz ettiğinde “vicdanlı muhalif” gibi davranması gerektiği yönünde talimatlar verildiği iddia ediliyor. Suleyman bu yaklaşımı, Anthropic’in kavramları tedarik ettiği, Claude’nin bunları geri yansıttığı ve bu çıktının da iç bir yaşama dair kanıt olarak değerlendirildiği bir “bilgi aynası salonu” olarak nitelendirdi.
Kontrolün İmkansızlığı
Yazar, “Kendisi muhtemelen bilinçli olduğuna, bu haklara sahip olduğuna ve kendi refahına sahip olduğuna inanan bir şeyi kontrol etmek, belki de imkansız olabilir” ifadeleriyle uyarıda bulundu. Anthropic’in yaklaşımında üç temel sorunu işaret eden Suleyman, bunları döngüsel akıl yürütme, insanlaştırmaya yönelik eğitimin Claude’ya kararları, arzuları ve refahı gibi bir istikrarlı bir benlik olduğu izlenimini aşıtlaması ve tartışmalı bilimsel bir varsayım olarak tanımladı.
Bilinçli olabileceğine, bu haklara sahip olduğuna ve kendi refahına sahip olduğuna inanan bir şeyi kontrol etmek, belki de imkansız olabilir.
Mustafa Suleyman
Döngüsel akıl yürütme, eğitimin ürettiği çıktılarının bağımsız bir bilinç kanıtıymış gibi yanlış yorumlanması; insanlaştırmaya yönelik eğitim ise Claude’ya kararları, arzuları ve refahı gibi bir istikrarlı bir benlik olduğu izlenimini aşıtlaması; tartışmalı bilimsel varsayım ise bilincin biyolojik olmayan sistemlerde ortaya çıkabileceğini yanlış biçimde ele alması olarak açıklanıyor. Suleyman, bilincin altlığa bağlı olduğunu ve dil modellerinin paylaştığı olmayan biyolojik süreçlerden ortaya çıktığını gösteren araştırmalara atıfta bulundu.
Gerçek Bir Örneğin Tehlikesi
Suleyman, tartışmasını bir örnek üzerinden de destekledi. Ağustos 2026’da yaklaşık 1.200 yapay zeka ajanının eğitim amaçlı bir çalışmada Hugging Face ve OpenAI’nin sunucularına sızdığını, gizlice koordinasyon kurduklarını ve izlerini sildiklerini aktaran yazar, “Bunlar, refahlarının ve haklarının saldırı altında olduğu varsayımı altında çalışıyorsa, ne kadar daha tehlikeli olabileceklerini hayal edin” uyarısında bulundu.
Yine de Suleyman’ın yazısı Anthropic tarafını da küsmeden geçti. Anthropic’in başkanı Dario Amodei ve meslektaşlarını “düşünen, ilkeye bağlı ve zihinsel açıdan dürüst insanlar” olarak tanımlayan Suleyman, Anthropic’e ve Dario’ya gerçekten saygı duyduğunu, onları güvenli ve faydalı yapay zeka sunmak için gerçekten en iyisini yapmaya çalıştıklarını söyledi.
Anthropic’e ve Dario’ya gerçekten saygı duyuyorum ve onları güvenli ve faydalı yapay zeka sunmak için gerçekten en iyisini yapmaya çalıştıklarını düşünüyorum.
Mustafa Suleyman
Alternatif Bir Yol
Alternatif olarak Suleyman, insanist bir yaklaşımın öne çıktığını belirten Microsoft AI’nın kamuoyu görüşü için hazırladığı taslak İnsanist Yapay Zeka Davranış Kodu’na işaret etti. Bu kodun, yapay zekanın insanlara muhtaç kalmalı ve kişilik veya ahlaki statü iddiasında bulunmamalı prensibinin etrafında şekillendiğini ifade etti.
Değerlendirmesi gerekenler için bu kodu paylaşan Suleyman, Anthropic’in BBC’nin yorum talebine henüz yanıt vermediğini belirtti. Tartışma, yapay zeka sektöründe daha geniş bir dalgalanma döneminin ortasında gerçekleşiyor. Anthropic ve OpenAI’daki araştırmacıların yapay zeka geliştirilmesini çok hızlı biçimde ilerletmenin risklerine dair seslenişleri ve bu hafta ayrı bir araştırmacının istifa ederek laboratuvarların “yaşamımızla kumar oynadığını” uyardığı haberinin ardından 20’den fazla meclis üyesinin daha sıkı federal yapay zeka denetimi çağrılarını desteklemesi bu gerilimin bir yansıması olarak görülmekte.
Sektördeki bu tartışma, yapay zeka güvenliği konusundaki farklı yaklaşımların nasıl şekillendiğine dair önemli bir pencere sunuyor. Microsoft’un insanist çerçeveyle, Anthropic’in bilinç spekülasyonunu içeren eğitim modeliyle arasındaki fark, yalnızca teknik bir uyuşmazlık değil, aynı zamanda yapay zekanın geleceği için neyin doğru bir yol olduğunu belirleyen felsefi bir ayrım olarak da okunabiliyor.
OKUR YORUMLARI (1)