Gömme tersine çevirme saldırıları, bir metnin, görüntünün veya başka bir verinin makine öğrenmesi modelleri tarafından üretilen sayısal gömme vektörlerinden, orijinal hassas içeriğin kısmen ya da tamamen yeniden elde edilmeye çalışıldığı saldırılardır. Bu saldırı, gömmelerin zararsız birer sayı dizisi olduğu yönündeki yaygın varsayımı çürütür.

Bir gömme vektörü, orijinal veriyi geri çıkarmaya yetecek kadar bilgi taşıdığında, o vektör artık anonim bir sayı değil, gizlenmiş bir kopyadır.

Gömme Aslında Ne Taşır?

Gömme, bir modelin bir veriyi anlamsal olarak temsil eden yüksek boyutlu bir sayı vektörüne dönüştürmesidir. Benzer anlamlar birbirine yakın vektörlere düşer; bu sayede arama ve öneri sistemleri çalışır. Ancak bu temsil, verinin anlamını korumak için tasarlandığından, orijinal içeriğe dair şaşırtıcı derecede çok bilgi barındırır. Vektör tek yönlü ve geri döndürülemez sanılsa da, uygun bir saldırı modeliyle içerdiği bilginin önemli bir kısmı yeniden okunabilir.

Saldırı Nasıl Kurulur?

Saldırgan tipik olarak hedef gömme modeline erişebildiği bir durumdan yararlanır. Kendi elindeki metinleri modele verip gömmelerini toplar, ardından gömmeden metne giden ters bir model eğitir. Bu ters model yeterince örnekle beslendiğinde, eline geçen bir gömme vektöründen orijinal metnin kelimelerini veya bir yüzün ayırt edici özelliklerini yaklaşık olarak yeniden üretebilir. Sonuç, birebir aynı olmasa da hassas bilgiyi ele verecek kadar yakın bir yeniden inşadır.

Neden Ciddi Bir Risk?

Kurumlar gömmeleri çoğu zaman ham veriden daha az korunması gereken türetilmiş bir çıktı olarak görür ve bunları veri tabanlarında görece gevşek denetimle saklar. Oysa hassas belgelerden, sağlık kayıtlarından veya özel yazışmalardan üretilmiş gömmeler, tersine çevrilebildiğinde orijinal verinin sızması anlamına gelir. Bu nedenle gömmelerin saklandığı sistemler, vektör veri tabanı güvenliği kapsamında en az ham verinin kendisi kadar titiz korunmalıdır.

Savunma Önlemleri

Savunmanın ilk adımı, gömmeleri hassas veri olarak sınıflandırıp erişimi buna göre kısıtlamaktır. Gömme üretim modeline dışarıdan serbest erişim verilmemesi, tersine çevirme modelinin eğitimini büyük ölçüde zorlaştırır. Gömmelere kontrollü gürültü eklemek veya gizliliği artıran dönüşümler uygulamak, taşıdıkları geri kazanılabilir bilgiyi azaltır; bu önlemler doğruluğu bir miktar düşürse de sızıntı riskini belirgin biçimde daraltır.

• Gömme vektörlerini hassas veri olarak sınıflandırın ve erişimi kısıtlayın
• Gömme üretim modeline serbest dış erişimi engelleyin
• Gömmelere gizliliği artıran dönüşüm veya gürültü uygulamayı değerlendirin
• Vektör veri tabanlarını kimlik doğrulama ve loglama ile sıkılaştırın

Bu saldırı, gömmelerin daha geniş yapay zekâ güvenliği resminde çoğu zaman gözden kaçan bir açık yüzey olduğunu gösterir. Vektör depolarının, üretim modellerinin ve erişim kontrollerinin birlikte doğru kurgulanıp kurgulanmadığını değerlendiren altyapı ve mimari gözden geçirme hizmetimiz, türetilmiş verinin de en az kaynağı kadar korunmasını mimari düzeyde güvence altına alır.