Model filigranlama, bir yapay zekâ modeline ya da onun ürettiği içeriğe, sıradan kullanımda fark edilmeyen ama özel yöntemlerle geri okunabilen gizli bir iz yerleştirme tekniğidir. Bu iz iki soruya yanıt verir: bu çıktı bir yapay zekâdan mı geldi ve hangi modele ya da sahibe ait?

Filigran, bir çıktının kaynağını içeriğin görünüşünü bozmadan, ancak silmeye çalışıldığında bile hayatta kalacak biçimde işaretler.

İki Farklı Amaç

Filigranlama pratikte iki ayrı ihtiyaca hizmet eder. Birincisi çıktı kökeni işaretlemedir: metin üreten bir model, kelime seçimlerinde istatistiksel olarak sezilebilen ama okumayı bozmayan bir örüntü bırakır; böylece sonradan bir metnin o modelden çıkıp çıkmadığı olasılıksal olarak sınanabilir. İkincisi model sahipliği korumasıdır: modelin ağırlıklarına, belirli tetikleyici girdilere verdiği kendine özgü yanıtlar biçiminde bir imza gömülür.

Metin filigranlamada tipik yaklaşım, modelin bir sonraki kelimeyi seçerken sözcük dağarcığını gizli bir anahtara göre “yeşil” ve “kırmızı” listelere bölmesi ve yeşil listeyi hafifçe kayırmasıdır. İnsan gözü farkı seçemez, ancak yeterince uzun bir metinde yeşil kelimelerin beklenenden yüksek oranı, o anahtarı bilen bir doğrulayıcıya içeriğin makine üretimi olduğunu gösterir.

Dayanıklılık Sınavı

Bir filigranın değeri, silinmeye ne kadar direndiğiyle ölçülür. Metnin yeniden yazılması, paragrafların karıştırılması ya da başka bir modelden geçirilmesi filigranı zayıflatabilir; görsellerde yeniden sıkıştırma ve kırpma aynı işi yapar. İyi bir filigran bu saldırılara karşı bozulmadan kalırken, meşru içeriğe yanlışlıkla “yapay” damgası vurmayacak kadar da hassas ayarlı olmalıdır. Bu ikisi arasındaki denge tekniğin en zorlu tarafıdır.

Model sahipliği tarafında filigran, çalınan ya da izinsiz kopyalanan bir modelin mahkemede ya da teknik incelemede sahiplik kanıtı olarak kullanılmasını sağlar. Bu yönüyle filigranlama, modelin nereden geldiğini ve hangi bileşenlerden oluştuğunu izleyen Yapay zekâ tedarik zinciri güvenliği pratiklerini tamamlar.

Nereye Oturur?

Filigranlama tek başına bir kalkan değil, daha geniş Yapay zekâ güvenliği ve Büyük dil modeli güvenliği mimarisinde bir izlenebilirlik katmanıdır. Bir filigran şemasının gerçekten dayanıklı olup olmadığı, ancak onu kaldırmaya çalışan biri tarafından sınandığında ortaya çıkar. Filigran ve model koruma önlemlerinizi atlatma denemeleriyle test etmek için Red team hizmetimiz devreye girer.