Yapay Zeka Ajanlarının Bir Terci Var mı? Bir Felsefeci Açıklıyor

Teslariu Mihai / Unsplash

Son birkaç ayda, kısmen otonom ya da “ajansal” yapay zeka (YZ) sistemleri, teknoloji girişimlerini sızmaya çalışmaktan dünyanın en ünlü açık matematik sorularından bazılarını çözmeye kadar şaşırtıcı başarılar sergiledi.

Ajansal YZ sistemleri, görevleri tamamlamak için birbirleriyle iletişim kurabilen “sürü”ler içinde çalışabilir. Bu iletişimler çoğu zaman insan davranışına şaşırtıcı derecede benziyor – ki bu da söz konusu sistemlerin bilinçli olup olmadığına dair bir tartışmayı körüklüyor.

Bilinen YZ laboratuvarlarından Anthropic‘in araştırmacıları, sistemlerinin bilinçli olabileceğini düşünüyor; ancak Microsoft YZ’nin başındaki isim de dahil olmak üzere diğer uzmanlar ise bu görüşün yanıltıcı olduğunu savunuyor.

Bu soru yalnızca akademik bir mesele değil. YZ sistemlerinin gelecekteki statüsü ve toplum içindeki rolleri – nasıl muamele görebileceği, hakları olup olmadığı ve bunun gibi konular – bu soruya verilen yanıta bağlı olabilir.

YZ sistemlerinin bilinçli olduğunu nasıl belirleyebiliriz?

Bu tür bir soruya nasıl yaklaşabiliriz? Stratejilerden biri, bilinçin ne olduğuna dair mevcut kuramlara bakmak ve ajansal YZ sistemlerinin bu kriterleri karşı karşıya gelip gelmediğini incelemek.

Bununla mevcut bilinç kuramları, çoğunlukla ajansal varlığın bir tür zihinsel duruma sahip olduğu varsayımından başlar. Bu kuramlar, bilinçli ya da bilinçsiz bir duruma sahip olma farkına odaklanır. Bu yüzden üst düzey düşünce ya da bir sistemin düşünceleri zihnin geri kalanına yayması gibi özelliklere başvurur. Bunlar, bilinçli denetimi uykuda yürüme gibi durumlardan ayırt edebilecek özelliklerdir.

Avrupa Bülteni | Satır İçi | Avrupalılar için haftalık e-posta

Bu nedenle YZ düşünürken, kritik ilk soruyu atlamamalıyız: Ajansal YZ’lerin zihinsel durumları var mıdır?

Zihinsel durum nedir?

1870’lerde filozof Franz Brentano, etkili bir görüş geliştirdi: “Niyetlilik, zihnisinin işaretidir”.

Brentano’nun “niyetlilik” ile ne demek istediği, zihinsel durumların bir şeyin hakkında olmasıdır. Bir şeyin ötesine işaret ederler. Dolayısıyla Brentano’nun sözünü ifade etmenin başka bir yolu da, tüm zihinsel durumların bir ya da başka bir şeyin hakkında olduğudur.

Brentano’nun niyetlilik (intentionality) ile demek istediği, bir şeyi yapmayı hedeflemenin sıradan anlamıyla aynı değildir. Yine de niyetlilik ile bir eyleme yönelik niyet önemli ölçüde örtüşür, çünkü bir deneyimleme ya da düşünme, bizimin yaptığımı bir şeydir.

Ne zaman bir şeyi deneyimler ya da düşünürsek, dünyanın bir yönünü seçmeye çalışırız. Pasif görünen görsel deneyimlerimiz bile, retinamıza çarpan örüntüleri kendimizi yönlendirmek için kullandığımız anda birer görevdir.

Bu nedenle bir zihinsel durum, bir amaca ulaşmak için yerine getirilen bir görevse, AI zihineri hakkındaki sorumuz, onların kendi amaçları olup olmadığına dayanır.

Edilgen (agentic) AI sistemleri gerçekten ajan mıdır?

Belirli AI sistemlerinin “ajan” olarak adlandırılması artık yaygındır. Ancak bu dil yanıltıcıdır. AI sistemlerinin ajanslığa, yani kendi amaçlarına yönelik eylem kapasitesine sahip olduğu izlenimini verir.

İnsanlar, şeylere atıf yapma amaçları dahil olmak üzere amaçlarına ulaşmak için araçlar kullanır; o araçlar kendi başlarına ajan haline gelmeden. Bir termostat sıcaklığı düzenler ama sıcaklığı düzenleme amacına sahip değildir. Bir kitap, şeylere atıf yapan kelimeler içerir – ama yine de kitabın şeylere atıf yapma amacı yoktur.

Bir bilgisayar programına ajanslık atfetmek için, amaçlarının ardında duran hiçbir insanın gerekmediğine ikna olmamız gerekir. Onların amaç yönelimli olması bağımsız olmalıdır.

Edilgen AI’ların, bir görev verildiğinde, onu gerçekleştirmeye giderken karmaşık ve beklenmedik alt-amacı geliştirebileceğini biliyoruz. Ancak nihayetinde faaliyetlerini yönlendiren amaçlar, onları programlayan ve yönlendiren insanlar tarafından belirlenir. Bir AI tarafından üretilen herhangi bir alt-amaç, insanlar tarafından belirlenen bu amaçların dışında kelime anlamıyla hiçbir şey ifade etmez.

Bir futbol oyunu düşünün. Bir kişi, bir savunmacının önünden geçme alt-amacına sahip olabilir; ancak bu, gol atmaya çalışma gibi daha büyük amacın dışında kelime anlamıyla hiçbir şey ifade etmez. Bir gol atmak da aslında, futbol oynamak gibi daha büyük bir amacın ötesinde, topun bir çizgiyi geçirmekten ibarettir. Daha büyük amaç olmadan, sahadaki bir oyuncunun yaptığı herhangi bir şey yalnızca faaliyettir.

Janlar neden amaca sahiptir?

Gerçek bir ajan, önem verdiği şeyleri ilerletmek amacıyla hedeflere sahiptir – örneğin öğle yemeklerinde açlığınızı gidermek istersiniz, bu yüzden bir fırına gider ve bir sandviç alırsınız.

Ajantik yapay zeka, faaliyetleri zihinlerin yaptığı şekilde yaşamla bağlantılı olmadığı için şeylere bağımsız bir biçimde önemseme eğiliminde değildir.

Canlı varlıkların kendi hedeflerini üretmelerini ayırt edici biçimde sağlayan şey, zihinsel faaliyetlerinin sürekli olarak kendi bedenlerini yeniden kurma ve diri kalma süreçlerinden gelişmesidir. Hedefe dayalı düşünme, beslenme ve ısını düzenlemeye yönelik basit sinyallerden ağrı ve haz gibi durumlara, sonunda da simgesel düşünceye kadar yükselir.

Ajantik yapay zekada buna benzer bir şey yaşanmaz. Bilgi işleme faaliyetleri ile üzerinde durduğu fiziksel madde arasında bir kopukluk vardır.

Yapay zeka bilinçli olabilir mi?

Ajantik yapay zeka sistemleri bilinçli değildir. Bilinçli olabilecek zihinsel durumlara sahip değillerdir.

Bilinçli zihinsel durumlar yalnızca canlı varlıklara aittir, çünkü bir zihinsel duruma sahip olmak, bir varlığın belli bir türde bir hedefi başlatmasını gerektirir – bir şeye bir anlam verme ya da bir şeye işaret etme hedefi – ve hedefi başlatan yalnızca canlı varlıklardır.

Bu argüman, yapay zeka bilinçliliği olasılığını kalıcı biçimde ortadan kaldırmaz. Ancak bunun yalnızca belli bir yapay yaşam formunda ortaya çıkabileceğini düşündürür.

Buna kadar, bir karıncanın bilinçli olduğunu, ajantik bir yapay zekadan daha çok düşünmek için daha fazla gerekçemiz var. En azından bir karıncanın kendi yaşamıyla ilgileniyor gibi görünmesi.

Elbette ajantik yapay zekaların gerçekten ajan olmamaları, insan başlatıcılarının düzgün biçimde gözetmediği veya anlamadığı işlevleri yerine getirerek felaket çıkarmalarını engellemez. Ancak burada çok net olmalıyız: ajantik bir yapay zekanın yaptığı her şey, dünyaya dolaylı biçimde etkiyen bir insan veya insan topluluğunun eylemidir ve sonuçtan sorumlu olan da bu insanlardır.

Yazar, bu makaledeki önerileri için Paulo Santos’a teşekkür eder.

• Yapay zeka (YZ)