Diferansiyel gizlilik, bir veri kümesi üzerinde yapılan analizin sonucuna bakarak herhangi bir bireyin o kümede olup olmadığının anlaşılamayacağını matematiksel olarak güvence altına alan bir yaklaşımdır. Temel vaadi nettir: bir kişinin verisi analize eklendiğinde ya da çıkarıldığında sonucun istatistiksel olarak neredeyse hiç değişmemesi. Böylece toplu içgörüler elde edilirken bireysel katkı görünmez kalır.

Diferansiyel gizlilik, sonuca bakan hiç kimsenin “bu kişi veride var mıydı?” sorusuna güvenle yanıt verememesini garanti eder.

Nasıl Çalışır?

Mekanizmanın kalbinde kontrollü gürültü yatar. Bir sorgunun gerçek sonucuna, matematiksel olarak kalibre edilmiş rastgele bir gürültü (tipik olarak Laplace veya Gauss dağılımından) eklenir. Bu gürültü, toplam istatistiği anlamlı ölçüde bozmayacak kadar küçük, ama tek bir bireyin katkısını maskeleyecek kadar büyüktür. Yeterince büyük bir veri kümesinde ortalama ya da sayım gibi sonuçlar hâlâ isabetli kalırken, tekil kayıtların izi silinir.

Epsilon: Gizlilik Bütçesi

Gizliliğin gücü epsilon (ε) adı verilen bir parametreyle ölçülür ve bu bir denge ayarıdır. Küçük bir epsilon daha fazla gürültü, dolayısıyla daha güçlü gizlilik ama daha düşük doğruluk demektir; büyük bir epsilon ise tersi. Epsilon aynı zamanda bir bütçe gibi harcanır: aynı veri üzerinde tekrarlanan her sorgu gizlilik bütçesinden pay götürür, çünkü çok sayıda sonuç bir araya getirildiğinde bireysel bilgi yeniden sızabilir. Bu nedenle toplam sorgu bütçesinin yönetimi tekniğin ayrılmaz parçasıdır.

Nerede Kullanılır?

Diferansiyel gizlilik akademik bir kavram olmaktan çıkıp büyük ölçekte uygulanır hale gelmiştir. ABD Nüfus Sayımı Bürosu 2020 sayımı verilerini bu teknikle korumuş; Apple ve Google, kullanım istatistiklerini toplarken bireysel cihaz verisini gizlemek için diferansiyel gizlilikten yararlanmıştır. Özellikle model eğitiminde bireysel örneklerin ezberlenmesini engellemek amacıyla Gizlilik koruyan makine öğrenmesi yöntemlerinin temel bir bileşeni olarak kullanılır.

Bir başka önemli kullanım alanı, gerçek veriyi hiç ifşa etmeden analiz veya test verisi üretmektir; Sentetik veri ve gizlilik yaklaşımlarında diferansiyel gizlilik, üretilen verinin orijinal bireyleri ele vermemesi için bir güvence katmanı sağlar.

Kurumsal Değeri

Kurumlar için diferansiyel gizliliğin değeri, veriden içgörü üretmek ile bireysel mahremiyeti korumak arasındaki gerilimi ölçülebilir bir güvenceyle çözmesidir. “Kimliksizleştirdik” gibi belirsiz ifadeler yerine, sağlanan gizlilik düzeyi epsilon üzerinden sayısal olarak ifade edilir ve denetlenebilir. Bu tür gizlilik korumalarını veri mimarisine doğru katmanda yerleştirmek için Privia Security’nin Altyapı ve mimari gözden geçirme hizmetimiz, veri işleme hatlarını gizlilik hedefleriyle uyumlu biçimde değerlendirir.