Otonom sistemlerde güvenlik, insan onayını beklemeden algılayıp karar veren ve fiziksel ya da dijital bir eylemi kendiliğinden gerçekleştiren sistemlerin risklerini yönetme alanıdır. Otonom araçlar, endüstriyel robotlar, insansız hava araçları ve kendi başına işlem yapan yazılım ajanları bu sınıfa girer. Bu sistemlerde güvenlik açığı yalnızca veri kaybına değil, doğrudan fiziksel zarara veya kontrolsüz bir eyleme dönüşebildiği için klasik siber güvenlikten daha geniş bir tehdit yüzeyi taşır.

Otonom bir sistemde güvenlik ihlali, çalınan bir veri değil, insan onayı olmadan gerçekleşen yanlış bir karardır.

Tehdit Yüzeyi Neden Farklı?

Otonom sistemin kararı, sensörlerinden gelen veriye dayanır; dolayısıyla saldırgan sistemi hacklemek zorunda kalmadan yalnızca algısını bozarak yanıltabilir. Bir kamera görüntüsüne eklenen görünmez bir örüntü, bir aracın dur işaretini hız sınırı olarak algılamasına yol açabilir. Buna sensör aldatması veya çekişmeli girdi (adversarial input) denir ve klasik bir yazılım açığı gibi yamalanamaz, çünkü açık modelin karar mantığının kendisindedir. Ek olarak sistemin kendi karar döngüsündeki bir hata, tek bir yanlış girdiyi hızla ölçeklenen bir soruna çevirebilir.

Emniyet ve Güvenlik İç İçe

Bu sistemlerde emniyet (safety) ve güvenlik (security) birbirinden ayrılamaz. Bir otonom sistemin güvenli olması, sadece kötü niyetli saldırılara değil, beklenmedik durumlara ve sensör arızalarına karşı da öngörülebilir ve güvenli bir tepki vermesini gerektirir. Bu yüzden tasarıma güvenli varsayılan durumlar (fail-safe), insan devralma mekanizmaları ve kararların sınırlandığı çalışma zarfları gömülür. Bir otonom sistem, güveni sarsıldığı anda tehlikeli bir eyleme değil, kontrollü bir durma durumuna geçmelidir.

Kritik Altyapıdaki Rolü

Otonom karar mekanizmaları giderek enerji, su, ulaşım ve üretim gibi alanlara yayılıyor; bu da onları kritik altyapı güvenliği tablosunun merkezine taşıyor. Bir şebekeyi otonom dengeleyen bir sistemin manipüle edilmesi, tek bir tesisin ötesinde zincirleme kesintilere yol açabilir. Bu ölçek, otonom bileşenlerin güvenliğini kurumsal bir risk değil, toplumsal bir dayanıklılık meselesi hâline getirir ve daha geniş yapay zekâ güvenliği çerçevesiyle örtüşür.

Olay Anında Hazırlık

Otonom sistemlerde bir sorun çıktığında yanıt hızı önemlidir, çünkü sistem kendi başına hareket etmeye devam eder. Bu nedenle sağlam bir olay müdahale planı, otonom bir bileşeni güvenli biçimde devre dışı bırakma, kararlarını denetleme ve nedeni geriye doğru izleme adımlarını içermelidir. Bunun için sistemin her kararının kayıt altına alınması ve sonradan yeniden incelenebilir olması gerekir.

Otonom sistemlerin güvenliği, mimarinin daha tasarım aşamasında ele alınmasını gerektirir; sonradan eklenen kontroller karar döngüsünün derinine ulaşamaz. Sensörden karara ve eyleme uzanan zincirin güven sınırlarını haritalandırmak için Altyapı ve mimari gözden geçirme hizmetimiz ile otonom bileşenlerinizin savunma mimarisini değerlendirebilirsiniz.