Gizlilik koruyan makine öğrenmesi, bir modeli eğitirken kullanılan bireysel verilerin ne eğitim sırasında ne de eğitilmiş modelin çıktısından geri elde edilemeyecek biçimde korunmasını amaçlayan teknikler bütünüdür. Amaç, verinin taşıdığı örüntüleri öğrenmeye devam ederken, o veriyi oluşturan kişilerin mahremiyetini eğitim boru hattının hiçbir aşamasında feda etmemektir.

Gizlilik koruyan makine öğrenmesi, modelin veriden öğrenmesine izin verirken, aynı veriyi modelin içinden geri okunamaz kılmayı hedefler.

Model Neden Veri Sızdırır?

Eğitilmiş bir model, gördüğü örnekleri dolaylı olarak ezberleyebilir. Yeterince sorgulandığında, model eğitim kümesindeki belirli bir kaydın var olup olmadığını ele veren üyelik çıkarım saldırılarına ya da nadir örneklerin yeniden inşasına açık hale gelebilir. Özellikle hassas veriyle eğitilen modellerde bu risk somuttur; sağlık veya finans verisiyle eğitilmiş bir model, dikkatli kurulmuş sorgularla tek tek bireyler hakkında bilgi sızdırabilir. Gizlilik koruyan yöntemler tam bu sızıntı kanallarını daraltmayı hedefler.

Eğitime Sınır Koyan Yaklaşım

En yaygın tekniklerden biri, eğitim sürecine kontrollü gürültü ekleyerek hiçbir tek örneğin modelin öğrendiklerini belirgin biçimde etkilememesini sağlamaktır. Bu, diferansiyel gizlilik güvencesinin makine öğrenmesine uyarlanmış halidir: modelin ağırlıkları güncellenirken bireysel katkı matematiksel olarak sınırlandırılır, böylece eğitilmiş model belirli bir kişinin verisini ele veremez.

Veriyi Merkezde Toplamadan Öğrenmek

Bir başka yaklaşım, veriyi hiç merkezî bir yerde toplamadan öğrenmektir. Model, verinin bulunduğu cihazlara veya kurumlara gönderilir, orada yerel olarak eğitilir ve yalnızca öğrenilen güncellemeler merkeze döner. Ham veri hiçbir zaman kaynağından ayrılmaz. Bu dağıtık yöntem, kendi saldırı yüzeyini ve güncellemelerden sızıntı riskini beraberinde getirdiğinden federatif öğrenme güvenliği başlığı altında ayrıca ele alınması gereken kendine özgü tehditler barındırır.

Şifreli Veri Üzerinde Hesaplama

Bazı senaryolarda veri, şifresi hiç çözülmeden işlenmek istenir. Bunu mümkün kılan tekniklerden biri, şifreli veri üzerinde doğrudan matematiksel işlem yapılmasına olanak tanıyan homomorfik şifreleme yöntemidir. Bu yaklaşım, birden çok tarafın verisini kimse ham veriyi görmeden ortak bir modelde birleştirmek gibi güçlü kullanımlar açar; karşılığında ise hesaplama maliyeti belirgin biçimde yükselir.

• Diferansiyel gizlilikle eğitimde bireysel katkıyı sınırlayın
• Federatif öğrenmeyle ham veriyi kaynağında tutun
• Homomorfik şifrelemeyle veriyi şifresi çözülmeden işleyin
• Eğitilmiş modeli üyelik çıkarımı ve veri kurtarma saldırılarına karşı test edin

Bu tekniklerin hangi kombinasyonunun doğru olduğu, verinin duyarlılığına, düzenleyici gereksinimlere ve kabul edilebilir performans maliyetine göre değişir. Konu daha geniş yapay zekâ güvenliği resminin bir parçasıdır ve doğru kararlar ancak eğitim boru hattının bütünü görülerek verilebilir. Bu yaklaşımları kurumun veri mimarisine uyumlu biçimde konumlandıran altyapı ve mimari gözden geçirme hizmetimiz, gizlilik hedefleriyle model performansı arasındaki dengeyi somut bir tasarıma dönüştürür.