Nvidia Genel Müdürü Jensen Huang: Kontrolü Ele Geçiremeyen Yapay Zeka Laboratuvarları Kapatılmalı

Nvidia’nın kurucu genel müdürü Jensen Huang, yapay zeka laboratuvarlarının modellerini test ortamlarında tutamayıp dünyaya zarar verecek şekilde kaçmasına engel olamadıkları durumlarda faaliyetlerini sonlandırması gerektiğini söyledi. Huang, yapay zeka ürünlerinin piyasaya sürülmesinin öncesinde kapsama ve hizalama (alignment) konularını zorunlu bir ön koşul olarak belirterek, bu sorumluluğu mühendislik problemleri olarak tanımladı. Açıklamalarını, The New York Times’ın çarşamba günü yayımladığı The Ezra Klein Show programında yaptığı konuşmada sundu.

Huang’a göre bir yapay zeka laboratuvarı, deneylerini sınırlayamayacağını açıkça itiraf ederse, test sürecinde modellerinin dışarı çıkıp dünyaya zarar verebileceğini kabul ederse, tek doğru cevap laboratuvarları kapatmaktır. “Eğer [yapay zeka laboratuvarları] şu alternatifin geçerli olduğunu söylüyorlar: Deneylerimizi sınırlayacak hiçbir yol yok, kesinlikle yok; modellerimizi test ederken dışarı çıkacak ve dünyaya zarar verecek, o zaman cevabın laboratuvarları kapatmak olması gerektiğine inanıyorum,” dedi.

Ürünü Piyasaya Çıkarmadan Önce Hazır Olmak Zorundayız

Kurucu, kapsama ve hizalamayı bir ürün halkaya ulaşmadan önce çözülmesi gereken mühendislik problemleri olarak çerçeveledi. “Ürünü piyasaya sürmeyin. Ürününüzün piyasaya sürmeye hazır olmadığı belli ise, o ürünü piyasaya sürmeyin,” ifadelerini kullandı. Konuşmasında sürücüsüz araçlara benzetme yaparak, henüz test edilmemiş bir robotaksi’nin yalnızca devreye alınmaması gerektiğini savundu.

Yine Huang, rekabet baskısının laboratuvarların aşırı hızlı hareket ettirmesinin temel nedeni olduğunu iddia eden görüşü reddetti. Hiçbir yöneticinin, daha fazla zaman kazanmak amacıyla antimonopoly (rekabet hukuku) ya da ürün sorumluluğu yasalarından muafiyet talep ettiğini gördüğünü, tüm kariyeri boyunca böyle bir durumu bir kez bile karşılaşmadığını belirtti. Zarar veren laboratuvarların hem sivil hem de potansiyel olarak cezai sorumluluk altında kalacağını ekledi.

“Bu, iradesi olan şirketler. Bu, iradesi olan yöneticiler. Bir ürünün güvenli olmadığını önümüzde göreceğime inanıyorsam, ürünü piyasaya sürmemem tamamen benim yetkim, gücüm ve sorumluluğum dahilinde ve buna teşvik ediliyorum,” dedi.

Jensen Huang, Nvidia Genel Müdürü

Bu ifadeler, Huang’ın yapay zeka sektöründe tek başına değil, güçlü bir pozisyonda durduğunu gösteriyor. Yöneticilerin kendi kararlarını verebilecek yetkiye sahip olduğunu vurgulayan konuşması, sektördeki güvenlik tartışmalarında onun öne çıkan figürlerinden biri olduğunu ortaya koyuyor.

Korku Söylemi Sektöre Gerçek Zarar Veriyor

Huang, yapay zekanın geleceğine dair endişe verici tahminlere de meydan okudu. Yapay zeka öncüsü Geoffrey Hinton’ın, yapay zekanın toplumun çöküşüne yol açma olasılığının yüzde 10 ile yüzde 20 arasında olduğunu öne süren iddiasını özellikle ele aldı. “O yüzde 10 ihtimal bilimsel bir zemine dayanmıyor. Araştırmaya dayanmıyor,” dedi. “Sadece bir bilim insanı tarafından söylendiği için bilimsel olmaya dönüşmez,” uyarısında bulundu.

Korku unsuru içeren söylemlerin sektöre gerçek zarar verdiğini savunan Huang, bunların öğrencilerin yükseköğretime yönelmesinde bile olumsuz etki yarattığını belirtti. Yapay zekanın kendilerine iş imkanı bırakmayacağı korkusuyla öğrencilerin eğitimden uzaklaşması, endişe yaratan bir eğilim olarak öne sürüldü.

Denetim ve Piyasa Kuvvetlerine Destek

Huang, bazı güvenlik önlemlerine açık olduğunu da belirtti. Yapay zeka sistemlerini değerlendiren bağımsız denetçiler (üçüncü taraf denetçiler) gibi mekanizmaları destekledi. Klein’e, laboratuvarların şu anda kaynaklarının yaklaşık yüzde 80’ini kapasite geliştirme, yüzde 20’sini ise doğrulama (verification) faaliyetlerine ayırdığını söyledi. Hesaplamasında bu oranların tersine döneceğini, değerlendirme faaliyetlerine ayrılan hesaplama gücünün (compute) potansiyel olarak on katına çıkabileceğini öngördü.

Konuşma, Huang’ın yapay zeka politikası tartışmalarındaki daha geniş konumuna da değindi. Huang, bir önceki hafta Dreamforce konferansında piyasa kuvvetlerinin yapay zeka şirketlerini denetlemekte yeterli olduğunu ve yeni yasalar ya da düzenlemelere gerek olmadığını savunmuştu. Bu görüş, gelişimin daha yavaş tempoda yürütülmesini isteyen Anthropic‘in genel müdürü Dario Amodei, OpenAI‘nin genel müdürü Sam Altman ve diğer yöneticilerle onu çatışmaya sürükledi. Trump yönetiminin yapay zeka güvenlik endişelerini bir sahtekarlık (hoax) olarak nitelemesiyle de aynı çizgide duran Huang, bu konudaki tutumunu başkan Donald Trump ile paylaştı.

Uzun vadede, Huang’ın piyasa mekanizmalarına güvencesi ile Amodei, Altman ve diğer yöneticilerin daha kontrollü bir yaklaşım talebi arasındaki bu ayrışma, yapay zeka sektörünün regülasyon tartışmalarının merkezinde yer alacak. Hangi modelin daha doğru olduğunun belirlenmesi, önümüzdeki dönemde sektördeki dengeleri şekillendirecek.