Sentient, yapay zeka modellerinin sahiplenilmesini test eden ilk açık ölçütü yayımladı

Yapay zeka modellerinin nereden geldiğini kanıtlanmasının giderek daha zor hale gelmesiyle, modelleri tanımlamaya çalışan parmak izi (fingerprinting) tekniklerinin üreticilerin umduğu kadar kolay kaldırılamayacağı yönündeki bulgular, bu alandaki tartışmayı yeniden gündeme getirdi.

Sentient Foundation’ın Parmak İzi Leaderboard’u, modelleri tanımlamaya yönelik teknikleri karşılaştırmak için açık bir ölçüt sunarak bu zorluğa yanıt vermeyi hedefliyor. Platform, parmak izlerinin kaldırma girişimlerine ne kadar dayanıklı olduğunu ve model performansını ne derece etkilediğini değerlendirmeye yönelik.

Bu girişim, Sentient’a bağlı araştırmacıların ve işbirliği içindeki diğer araştırmacıların ortaya koyduğu bulguların ardından geliyor. Makalede “Are Robust LLM Fingerprints Adversarially Robust?” adlı çalışmada araştırmacılar, 10 önerilen parmak izi tekniğine uyumlu saldırılar geliştirdi ve tümünün yüksek model yararlılığını koruyarak atlat thểlabileceğini buldu.

Bulgular, yapay zeka geliştiricileri için daha geniş bir zorluğa işaret ediyor: Bir makineye parmak izi gömmek bir yana, biri onu aktif olarak kaldırmaya çalıştığında bu izin hâlâ algılanabilir olmasını sağlamak ayrı bir mesele.

Yapay zeka modeli parmak izi tekniği, bir modelin davranışına gömülen veya davranışından algılanan sinyaller aracılığıyla modelin tanımlanabilmesini sağlıyor. Bu yöntemler yalnızca meta veriye, sahiplenme kayıtlarına veya eğitim loglarına güvenmek yerine, şüpheli türetilmiş bir modele karşı sınanabilecek kanıt arıyor.

Sentient’ın yaklaşımı, gizli davranışsal imzaları eğitim sırasında gömüyor. Bir model sahibi, sonrasında şüpheli bir türev modele özel tasarlanmış meydan okuma soruları gönderip orijinal parmak izinin izlerini analiz edebilir.

Bu yaklaşım, bir modelin başka bir geliştiricinin eserinden mi geldiğini araştırmaya yönelik ek bir yol sunabilir; ancak etkinliği, tanımlayıcı sinyallerin sonraki eğitim ve değişikliklere dayanıp dayanmayacağına bağlı.

“Yapay zeka modelleri dünyanın en değerli fikri mülklerinden biri haline geliyor, ancak bir model kopyalandığında veya özetlendiğinde sahiplenmeyi kanıtlamak inanılmaz derecede zorlaşıyor,” dedi Sentient Foundation’ın girişim ve büyüme direktörü Sachi Kamiya.

“Parmak izi, kanıtı modelin içine koyuyor.” diyen Kamiya, “Bunu Rönesans ressamlarının menşei belirlemek için kullandığı gizli işaretlerin yapay zeka karşılığı gibi düşünün,” dedi.

Temel sorun yalnızca menşei belirlemeyi aşıyor. Modelleri halkın kullanımına sunan geliştiriciler, eserlerinin yeniden kullanıldığını gösterme yeteneğini kaybetmeden deneyimliliği teşvik etmek isteyebilir; daha güvenilir provenance teknikleri bu hedefe katkıda bulunabilir, ancak tek başına bir parmak izi yasal sahiplenmeyi kanıtlamayabilir veya kopyalamanın izinsiz olduğunu ispatlamayabilir.

NeurIPS 2025’te sunulan araştırma, parmak izi tekniğinin büyük ölçekte işleyebileceğini gösterdi.

“Scalable Fingerprinting of Large Language Models” adlı çalışmada araştırmacılar, $META Meta’nın Llama 3.1 8B modeline bildirilen yararlı kaybı en düşük düzeyde tutarak 24.576 parmak izi gömen Perinucleus adlı bir yöntem sundu. Çalışma ayrıca parmak izlerinin denetimli ince ayar (fine-tuning) sonrasında ne kadar kalıcı olduğunu da inceledi.

Sonuç, ilerlemenin bir ölçüsünü gösteriyor: Bir model, performansında önemli bir düşüş yaşamadan çok sayıda tanımlayıcı sinyal taşıyabilir.

Ancak modele gömülen parmak izi sayısı tek başına, bunların kaldırılmasının ne kadar zor olduğunu kanıtlamıyor. Saldırgan, bu soruna, kontrollü koşullarda bir sinyali algılamaya çalışan bir araştırmacıdan farklı yaklaşabilir.

Bu ayrım, model parmak izlerine yönelik saldırılara dair araştırma kapsamında incelendi. Araştırmacılar, değerlendirilen yaklaşımların—including Sentient’ın kendi Perinucleus yöntemi dahil—uyumlu saldırılara karşı savunmasız kaldığını buldu.

Parmak İzi Leaderboard’u, araştırmacılara teknikleri karşılaştırmak ve sınırlarını değerlendirmek için ortak bir çerçeve sunmayı hedefliyor.

Değerlendirme süreci, model performansını koruyarak parmak izi gömme yeteneğine odaklanırken, saldırgan dayanıklılığı testi bu sinyallerin bilinçli kaldırma girişimlerinden sonra hâlâ algılanabilir olup olmadığını değerlendirmeye yönelik.

Sentient aynı zamanda mlprints çerçevesini GitHub’da erişime açıyor. Açık kaynaklı depo, parmak izi teknikleriyle çalışmaya, saldırı uygulaya, model yararlılığını ölçmeye ve parmak izlerini doğrulamaya yönelik araçlar sağlıyor.

Paylaşılan bir çerçeve, araştırmacıların yayımlanan sonuçları yeniden üretmesini, yeni yöntemleri test etmesini ve farklı yaklaşımlar arasındaki zayıflıkları belirlemeyi kolaylaştırabilir; aynı zamanda sonuçlar kullanılan modellere, saldırılara ve doğrulama prosedürlerine bağlı olabileceği bir alanda daha tutarlı değerlendirme pratiklerinin yerleşmesine de yardımcı olabilir.

Ölçütün değeri, değerlendirdiği tekniklerin çeşitliliğine, saldırılarının gerçekliğine ve bağımsız araştırmacıların sonuçları yeniden üretebilmesine bağlı olacak. Bir saldırıya dayanıklı bir yöntem, başka bir saldırıya karşı eşdeğer koruma sunmayabilir.

Bu nedenle zayıflıkları görünür kılmak sürecin bir parçası. Araştırmacılar parmak izlerinin nerede başarısız olduğunu belirleyebiliyorsa, daha zorlu testlere dayanabilecek yöntemler geliştirme konusunda daha iyi konumda olabilir.

Daha uzun vadeli hedef daha iddialı: Bir modelin yetenekleriyle o kadar bağlantılı ki, kaldırılması modeli aynı zamanda zedeleyecek bir parmak izi. Buna ulaşmak, tanımlayıcı sinyal ile modelin işlevselliği arasındaki mevcut tekniklerin kurduğundan daha güçlü bir ilişki gerektiriyor.

Şimdilik araştırma ve leaderboard daha acil bir soruya yanıt veriyor. Bir makineye başarılı biçimde parmak izi gömüldüğü için bir modelin tanımlanabileceğini varsaymak yerine, geliştiriciler ve araştırmacılar farklı yöntemlerin bu tür saldırıları ne kadar başarıyla atlatığını karşılaştırabilir.

Yapay zeka modelleri daha yaygın biçimde dağıtıldıkça, menşei belirleme yeteneği fikri mülkün yönetiminin giderek daha önemli bir parçası haline gelebilir. Parmak izinin güvenilir kanıt sunabilmesi, modelin taşıdığı işaret sayısından çok, bu işaretlerin bir saldırganın denetimine dayanıp dayanmayacağına bağlı.