Palantir CEO’su Alex Karp, yapay zeka laboratuvarlarının millileştirilmesini ve sorunsuz çalışan geliştiricilere ceza

Palantir Technologies CEO‘su Alex Karp, yapay zeka (YZ) şirketlerinin geliştirdiği sistemlerin denetimi konusunda hükümetlere laboratuvarların millileştirilmesi çağrısında bulundu ve sorumlu davranmayan YZ geliştiricilerine hem medeni hem de ceza sorumluluğunun yüklenmesini istedi. Karp, Perşembe günü CNBC’nin “Squawk on the Street” programına verdiği demeçte, politika yapıcıların teknoloji için “makul yönlendirmeler” koyması gerektiğini vurguladı.

Karp’a göre ilk savunma hattı bireysel sorumlulukta yatıyor: “İlk savunme çizgisi, kendi eylemlerinden sorumlu olmandır.” Gerekçesini açıklayan Karp, hükümetlerin millileştirmeyi gerekli görmesi sebebiyle her YZ müşterisinin yasal işlem başlatabileceğini belirtti ve “Ciddiyet göstermemiz gerekiyor” diye ekledi.

YZ yönetişimi için artan uyarılar

Karp’ın açıklamaları, politika yapıcıların ve teknoloji yöneticilerinin gelişmiş YZ sistemlerinin nasıl denetlenmesi gerektiğini tartıştığı bir döneme denk geliyor. Araştırmalardan gelen varoluşsal ve toplumsal tehlikelere dair uyarilerin artmasıyla birlikte Anthropic CEO’su Dario Amodei, hafta sonunda sınır ötesi (frontier) YZ gelişiminin hızını yavaşlatma çağrısında bulundu.

Amodei’nin bu tutumu, OpenAI CEO’su Sam Altman ve SpaceX ile Tesla CEO’su Elon Musk tarafından desteklendiğini gösterdi. Buna karşılık Başkan Donald Trump, riskleri sosyal medya hesaplarında tekrar tekrar “saçmalık” olarak niteleyerek bu endişeleri reddetti.

Savunmasız gelişmeye yönelik farklı görüşler

Nvidia CEO’su Jensen Huang ve Meta Platforms CEO’su Mark Zuckerberg, Trump’ın YZ gelişimine daha müsamahakâr yaklaşımıyla hizalandı. Zuckerberg, bu hafta X platformunda yapılan açıklamada, hizalamaya (alignment) odaklanmayan YZ laboratuvarlarının geride kalacağını belirtti.

Bir Çarşamba günü açıklamasında OpenAI, önceki altı ay içinde yaşanan “beklenmeyen veya endişe verici” model davranışlarından altısını ortaya koydu. Açıklama, Hugging Face’de yaşanan sızma olayının ardından geldi; bu olay Amodei’nin YZ gelişim hızını geri çekme gerekçesinde örnek olarak sunduğu bir vakaydı.

Halk Meclisi’nde tartışılan düzenlemeler

OpenAI CFO’su Sarah Friar, güvenlik endişeleri gerekiyorsa şirketin YZ gelişimini yavaşlatabileceğini söyledi. “Sınırı hızlandırmamız ve yavaşlamamız gerekiyorsa, kesinlikle araştırmacılarımızı dinleyip bunu yapacağız” dedi.

Bu arada OpenAI, Anthropic ve Google DeepMind, birkaç haftadır güvenlik koordinasyonu görüşmeleri yürütüyor. Tartışma aynı zamanda Capitol Hill’e de ulaştı; Connecticut’lı Demokrat Senatör Richard Blumenthal, bu hafta CNBC’ye yaptığı demeçte ülkenin tamamen kontrolü kaybetme “eşiğinde” olduğunu söyledi ve YZ modellerinin yayımlanmadan önce bağımsız incelemeden geçmesini istedi.

“İlk savunme çizgisi, kendi eylemlerinden sorumlu olmandır. Hükümetlerin millileştirmeyi gerekli görmesi sebebiyle her YZ müşterisinin yasal işlem başlatabileceğini düşünüyorum. Ciddiyet göstermemiz gerekiyor.”

Alex Karp, Palantir Technologies CEO’su

Buna ek olarak, Meclis’te YZ geliştiricilerini sistemlerine acil durdurma yetenekleri dahil etmeye zorlayacak bir yasa teklifi sunuldu; ancak benzeri öneriler Senato tarafında muhalemetle karşılaştı.