Yapay Zeka Modellerine Yönelik Prompt Injection Saldırıları Makalemiz Yayınlandı!
Yapay Zeka Modellerine Yönelik Prompt Injection Saldırıları Makalemiz Yayınlandı!
Siber Guvenlik Terimleri Sozlugu
STRIDE, tehditleri altı kategoriye ayırarak sistematik tehdit modelleme yapılmasını sağlayan çerçevedir.
STRIDE, tehdit modelleme çalışmalarında en yaygın kullanılan kategorileme çerçevesidir. Adı, ele aldığı altı tehdit türünün İngilizce baş harflerinden oluşur ve her harf, bir güvenlik niteliğinin ihlaline karşılık gelir.
Çerçevenin gücü, akla gelmeyeni hatırlatmasındadır. Ekipler serbest düşündüklerinde genellikle aşina oldukları saldırı türlerini sıralar; kategorili yaklaşım ise her bileşen için altı ayrı soru sorulmasını zorunlu kılar.
STRIDE; kimlik sahteciliği, veri kurcalama, inkâr, bilgi ifşası, hizmet reddi ve yetki yükseltme kategorilerinden oluşan, tehditleri sistematik olarak çıkarmaya yarayan bir modelleme çerçevesidir.
Altı kategori, korunması gereken altı niteliğin karşıtıdır: özgünlük, bütünlük, inkâr edilemezlik, gizlilik, erişilebilirlik ve yetkilendirme. Bu eşleştirme, bulunan her tehdidin hangi niteliği zedelediğini doğrudan gösterir.
Kategoriler bir sistemin her bileşeni ve her veri akışı için ayrı ayrı sorgulanır. Bir bileşen için bazı kategoriler anlamsız olabilir; bu durumda gerekçesiyle birlikte elenir, sessizce atlanmaz.
Sızma testinden olay müdahalesine, uçtan uca çözümlerle yanınızdayız.
Fiyat Teklifi AlKimlik sahteciliği, bir kullanıcının, servisin ya da sistemin başkası gibi görünmesidir. Çalınmış kimlik bilgileri, sahte sertifikalar, taklit edilmiş servis adresleri ve e-posta sahteciliği bu kategoriye girer.
Karşı önlemler kimlik doğrulamayı güçlendirmeye odaklanır: çok faktörlü doğrulama, karşılıklı sertifika doğrulaması, imzalı belirteçler ve servisler arası kimlik. Sadece ağ konumuna dayanan doğrulama bu kategoriye karşı zayıftır.
Kurcalama ise verinin ya da kodun izinsiz değiştirilmesidir. Aktarım sırasında değiştirilen bir istek, kurcalanmış bir yapılandırma dosyası ya da imzasız bir güncelleme paketi örnek verilebilir. Karşı önlemler özet doğrulama, dijital imza ve değiştirilemez kayıt üzerine kuruludur.
İnkâr kategorisi, bir işlemin sonradan reddedilebilmesiyle ilgilidir. Yetersiz kayıt, değiştirilebilir kayıt ya da paylaşılan hesap kullanımı bu tehdidi mümkün kılar. Karşı önlem, güvenilir zaman damgalı ve korunan kayıtlarla tekil kimlik kullanımıdır.
Bilgi ifşası, verinin yetkisiz kişilere ulaşmasıdır. Şifrelenmemiş aktarım, ayrıntılı hata mesajları, yanlış yapılandırılmış depolama ve fazla veri döndüren API uç noktaları yaygın kaynaklardır.
Karşı önlemler arasında aktarım ve saklama şifrelemesi, hata mesajlarının sadeleştirilmesi, yanıtlarda alan sınırlama ve erişim kontrolü bulunur. Bu kategori, tasarım aşamasında en kolay kapatılan ama sonradan en pahalı düzeltilen kategoridir.
Hizmet reddi, kaynak tüketimiyle sistemin kullanılamaz hâle getirilmesidir. Dış saldırıların yanı sıra hatalı bir istemci, sınırsız bir sorgu ya da kontrolsüz bir döngü de aynı sonucu üretebilir.
Karşı önlemler kota, hız sınırlama, kaynak izolasyonu, zaman aşımı ve yedeklilik üzerine kuruludur. Tasarımda her dış girdinin bir üst sınırı olması, bu kategorinin büyük bölümünü kapatır.
Yetki yükseltme, sınırlı yetkiye sahip bir öznenin daha geniş haklara ulaşmasıdır. Yetki yükseltme çoğunlukla eksik yetkilendirme kontrolü, güvensiz doğrudan nesne referansı ya da aşırı yetkili servis hesaplarından doğar.
Uygulama, veri akış diyagramının hazırlanmasıyla başlar. Ardından her öğe türü için hangi kategorilerin geçerli olduğu belirlenir: dış varlıklar için kimlik sahteciliği ve inkâr, veri akışları için kurcalama ve ifşa, süreçler için altı kategorinin tamamı.
Bulunan her tehdit için üç seçenekten biri seçilir: karşı önlem uygulamak, riski kabul etmek ya da tasarımı değiştirerek tehdidi ortadan kaldırmak. Seçim gerekçesiyle birlikte yazılır ve izlenebilir bir işe bağlanır.
Çalışma bir tabloyla belgelenir: öğe, kategori, senaryo, önem, karar ve sorumlu. Bu tablo, sonraki sürümlerde güncellenerek modelin canlı kalmasını sağlar.
Çerçevenin en güçlü yanı öğretilebilir olmasıdır. Güvenlik uzmanı olmayan geliştiriciler kısa bir eğitimle kategorileri uygulayabilir; bu da modellemenin ekipler arasında yaygınlaşmasını sağlar.
Zayıf yanı ise iş mantığı hatalarını doğrudan yakalamamasıdır. Yetkilendirme doğru çalıştığı hâlde sürecin kendisinde kötüye kullanıma açık bir adım varsa, altı kategori bunu göstermeyebilir; bu tür senaryolar için ayrıca iş mantığı zafiyetleri gözden geçirilir.
Modelin pratik kullanımını kolaylaştıran bir kural, her diyagram öğesi türü için hangi kategorilerin geçerli olduğunun önceden belirlenmesidir. Dış varlıklar yalnızca kimlik sahteciliği ve inkâr tehditlerine açıktır; çünkü kontrolümüz dışındadırlar. Veri akışları kurcalama, bilgi ifşası ve hizmet reddi ile ilgilidir. Süreçler ise altı kategorinin tamamına açık kabul edilir.
Veri depoları için de ayrı bir eşleme yapılır: kurcalama, bilgi ifşası ve hizmet reddi öncelikli kategorilerdir. Kayıt tutan veri depolarında ayrıca inkâr kategorisi de değerlendirilir, çünkü kayıtların silinmesi ya da değiştirilmesi hesap verebilirliği ortadan kaldırır. Bu eşleme tablosu, oturumların hızlanmasını sağlar. Ekip her öğe için hangi soruları soracağını baştan bilir.
Eşleme tablosu bir kısayoldur, mutlak kural değildir. Bazı sistemlerde dış varlıklara yönelik hizmet reddi senaryoları da anlamlı olabilir; örneğin bir iş ortağının API kotasının tüketilmesi. Bu tür istisnalar gerekçesiyle birlikte değerlendirilir. Önemli olan, atlamanın bilinçli bir karar olmasıdır.
Her kategori için tipik karşı önlem kümeleri bulunur ve bu kümeler ekiplere hazır bir başlangıç noktası sunar. Kimlik sahteciliğine karşı güçlü kimlik doğrulama, kurcalamaya karşı imza ve özet doğrulama, inkâra karşı korunan kayıt, ifşaya karşı şifreleme ve erişim kontrolü, hizmet reddine karşı kota ve yedeklilik, yetki yükseltmeye karşı sıkı yetkilendirme önerilir. Bu eşleme, çözümün tasarım aşamasında hızlıca konumlandırılmasını sağlar.
Ancak hazır önlem listesi düşünmenin yerine geçmemelidir. Aynı kategoriye giren iki tehdit, sistemin yapısına göre çok farklı çözümler gerektirebilir. Bu nedenle önlem seçilirken “bu senaryoyu gerçekten engelliyor mu?” sorusu ayrıca sorulur. Yanıtı belirsiz kalan önlemler, kâğıt üzerinde kapatılmış ama gerçekte açık senaryolar üretir.
Seçilen önlemlerin maliyeti de değerlendirilir. Bazı senaryolarda önlemin geliştirme ve işletme maliyeti, senaryonun beklenen etkisini aşar; bu durumda risk kabul edilir ve kayda geçirilir. Bu kararın tasarım aşamasında verilmesi, sonradan verilmesinden çok daha ucuzdur.
Bir web uygulamasının oturum yönetimi bileşeni üzerinden model uygulandığında ortaya somut sorular çıkar. Kimlik sahteciliği açısından oturum belirtecinin tahmin edilebilir olup olmadığı, kurcalama açısından belirtecin istemci tarafında değiştirilip değiştirilemeyeceği sorgulanır. İfşa açısından belirtecin kayıtlara ya da URL’lere düşüp düşmediği kontrol edilir. Yetki yükseltme açısından ise oturumun rol bilgisini nereden aldığı incelenir.
Bu dört sorunun yanıtı, çoğu uygulamada birkaç somut gereksinim üretir: belirtecin kriptografik olarak güçlü üretilmesi, sunucu tarafında doğrulanması, yalnızca güvenli çerezle taşınması ve rol bilgisinin istemciden alınmaması. Gereksinimler kabul kriterine dönüştüğünde geliştirme sırasında doğrudan uygulanır. Modelleme böylece soyut bir egzersiz olmaktan çıkar.
Aynı akış veri tabanı bağlantısı, dosya yükleme ve dış servis entegrasyonu gibi diğer bileşenler için tekrarlanır. Her bileşen birkaç dakikada değerlendirilir ve toplamda sistemin bütünü kapsanır. Deneyim arttıkça oturum süresi kısalır. Bu, yöntemin ekipler tarafından benimsenmesini kolaylaştıran en önemli özelliklerinden biridir.
Privia Security olarak STRIDE tabanlı tehdit modelleme oturumlarını geliştirme ekipleriyle birlikte yürütüyor, çıktıları altyapı ve mimari gözden geçirme kapsamında uygulanabilir gereksinimlere dönüştürüyoruz.
Bunlar İlginizi Çekebilir
