Federatif öğrenme, ham veriyi merkezi bir sunucuda toplamak yerine her cihaz ya da kurumun kendi verisiyle yerel model eğitmesini, sadece ağırlık güncellemelerinin paylaşılmasını sağlayan bir yöntemdir. Federatif öğrenme güvenliği ise bu güncellemelerin taşındığı hattı, katılımcıların dürüstlüğünü ve birleştirilen modelin bütünlüğünü koruyan tekniklerin tamamını kapsar. Verinin cihazdan çıkmaması gizlilik açısından cazip olsa da, saldırı yüzeyini ortadan kaldırmaz; yalnızca yerini değiştirir.

Federatif öğrenme güvenliği, veriyi hiç taşımadan yüzlerce katılımcının ürettiği model güncellemelerini güvenilir biçimde birleştirebilme meselesidir.

Nasıl Çalışır?

Tipik bir turda merkezi sunucu güncel modeli katılımcılara dağıtır, her katılımcı kendi verisiyle birkaç adım eğitim yapar ve yalnızca gradyan veya ağırlık farklarını geri gönderir. Sunucu bu güncellemeleri FedAvg gibi bir algoritmayla ortalar ve yeni sürümü tekrar dağıtır. Ham veri hiç görünmez, ancak gönderilen gradyanlar verinin istatistiksel izini taşır; işte güvenlik çalışmasının odaklandığı nokta tam da bu izin ne kadar bilgi sızdırdığıdır.

Başlıca Tehdit Türleri

Kötü niyetli bir katılımcı, eğitim verisini bilerek bozarak modele arka kapı yerleştirebilir; buna model zehirleme denir. Sunucu ya da ağı dinleyen bir taraf, geri dönen gradyanlardan orijinal örnekleri kısmen yeniden inşa edebilir. Bir başka risk, çok sayıda güncellemeyi gözlemleyen tarafın modelin kendisini kopyalayarak fikri mülkiyeti çalmasıdır. Bu tehditlerin ortak yanı, klasik veri sızıntısından farklı olarak paylaşılan şeyin veri değil verinin türevi olmasıdır.

• Zehirleme: sahte güncellemelerle model davranışını bozma veya arka kapı yerleştirme
• Gradyan tersine çevirme: paylaşılan güncellemelerden eğitim örneklerini yeniden üretme
• Üyelik çıkarımı: belirli bir kaydın eğitimde kullanılıp kullanılmadığını anlama
• Model çalma: tekrarlanan güncellemelerden modelin işlevini yeniden oluşturma

Savunma Katmanları

Sızıntıya karşı en yaygın önlem, güncellemelere kontrollü gürültü ekleyen Diferansiyel gizlilik yaklaşımıdır; böylece tek bir katılımcının katkısı istatistiksel olarak belirsizleşir. Güvenli toplama protokolleri, sunucunun bireysel güncellemeleri değil yalnızca toplamı görebilmesini sağlar. Zehirlemeye karşı ise aykırı güncellemeleri eleyen sağlam birleştirme yöntemleri kullanılır. Bu tekniklerin bütünü Gizlilik koruyan makine öğrenmesi başlığı altında olgunlaşmaktadır.

Bazı senaryolarda gerçek katılımcı verisi yerine istatistiksel olarak benzer üretilmiş kayıtlarla çalışmak da tercih edilir; bu yönüyle federatif kurgular Sentetik veri ve gizlilik yaklaşımlarıyla birleştirilebilir. Örneğin farklı hastanelerin ortak bir teşhis modeli eğittiği bir kurgu, hasta kayıtlarını hiç dışarı çıkarmadan gizlilik güvencesini korur.

Kurumsal Etki

Bankalar, sağlık kuruluşları ve mobil uygulama sağlayıcıları için federatif öğrenme, veri paylaşımını yasaklayan düzenlemelere takılmadan ortak model geliştirmenin yolunu açar. Ancak dağıtık mimarinin güven modeli klasik veri merkezinden farklıdır; sunucu, ağ ve katılımcı katmanlarının ayrı ayrı doğrulanması gerekir. Bu bütünsel değerlendirmede Privia’nın Altyapı ve mimari gözden geçirme hizmetimiz federatif kurgunun zayıf halkalarını üretime çıkmadan ortaya koyar.