Aşırı yetkilendirilmiş yapay zeka ajanı, görevini yürütmek için gerçekte gereken erişimin çok ötesinde izinlere sahip bir ajandır. Kurulum kolaylığı ya da “ileride lazım olur” düşüncesiyle ajana geniş veritabanı erişimi, tam yönetici hakları veya kısıtsız araç kullanımı tanındığında, ajan hiç kullanmadığı bu yetkileri bir yük olarak taşımaya devam eder ve bu yük, olası bir istismarın büyüklüğünü belirler.

Bir ajanın hiç kullanmadığı yetki, güvenlik açısından kullanılmış kadar tehlikelidir; çünkü onu asıl kullanacak olan saldırgandır.

Risk Neden Yetkiyle Büyür?

Bir ajanın verebileceği zarar, sahip olduğu yetkilerin toplamıyla sınırlıdır. Yalnızca belirli bir klasörü okuyabilen bir ajan enjeksiyonla ele geçirildiğinde kaybedilebilecek en fazla şey o klasördür. Aynı ajana tüm dosya sistemine yazma, e-posta gönderme ve üretim veritabanını silme yetkisi verilmişse, aynı enjeksiyon bu kez kurum çapında bir olaya dönüşür. Aşırı yetki, saldırının tetiklenme olasılığını değil, tetiklendiğinde ortaya çıkan hasarın çapını büyütür.

Bu tehlike özellikle ajanların doğal olarak enjeksiyon ve ele geçirme saldırılarına açık olması nedeniyle ciddidir. Ajan bir kez saldırgan kontrolüne girdiğinde, sahip olduğu geniş izinler saldırgan için hazır bir Yetki yükseltme fırsatına dönüşür; saldırganın ayrıca hak kazanmasına gerek kalmaz, çünkü ajan zaten fazlasıyla yetkilidir.

Yetkinin Sinsi Biçimde Birikmesi

Aşırı yetkilendirme genellikle tek bir hatalı kararla değil, zamanla birikerek oluşur. Bir görev için verilen geçici erişim kalıcılaşır, farklı entegrasyonlar için eklenen izinler hiç geri alınmaz ve ajan giderek her şeye erişebilen merkezi bir bileşene dönüşür. Bu “yetki şişmesi”, ajanın gerçek ihtiyaç profilinin düzenli olarak gözden geçirilmemesinden kaynaklanır.

Yetkiyi Daraltmak

Çözümün özü, ajanı en dar yetkiyle çalıştırmak ve bu yetkiyi görev bazında sınırlamaktır. En az yetki ilkesi, her ajanın yalnızca kendi görevini tamamlamak için mutlak gereken erişime sahip olmasını öngörür; bu ilkeyi ajan mimarisine uygulamak, geniş Yapay zekâ ajanlarının güvenliği çabasının en somut adımıdır.

• Her ajan için gerçek görev ihtiyacına göre asgari erişim kümesini tanımlayın.
• Geniş kapsamlı yönetici veya kök yetkilerini ajanlardan kaldırın.
• Yüksek etkili eylemleri ayrı, denetlenen ve onay gerektiren yollara bağlayın.
• Ajan yetkilerini düzenli aralıklarla gözden geçirip kullanılmayanları geri alın.

Bir kurumun ajan filosundaki aşırı yetki birikimini görünür kılmanın en etkili yolu, bu ajanları düşman perspektifiyle sınamaktır. Privia Security’nin Red team hizmetimiz, ele geçirilen bir ajanın gerçekte ne kadar ileri gidebileceğini uçtan uca göstererek yetki daraltma önceliklerinizi somut kanıta dayandırır.