Yapay zekâ tedarik zinciri güvenliği, bir yapay zekâ ürününü oluşturan tüm dış girdilerin, yani önceden eğitilmiş modellerin, eğitim veri kümelerinin, kütüphanelerin ve çalışma zamanı bileşenlerinin güvenilirliğini doğrulama ve zincir boyunca oluşabilecek manipülasyonları önleme pratiğidir. Modern bir AI sistemi nadiren sıfırdan üretilir; büyük ölçüde başkalarının hazırladığı parçalardan monte edilir ve her parça bir güven kararı gerektirir.

Bir yapay zekâ sistemi, içine aldığı en zayıf bileşen kadar güvenilirdir; model de veri de birer tedarik kalemidir.

Zincirin Kırılgan Halkaları

Tehdit yüzeyi klasik yazılımdan daha geniştir çünkü zincire modelin kendisi de dahildir. Herkese açık bir depodan indirilen bir model dosyası, ağırlıklarının içine gömülmüş bir arka kapıyla gelebilir. Eğitim veri kümesi zehirlenmişse, model tetikleyici bir girdi gördüğünde saldırganın istediği davranışı sergileyecek biçimde koşullanmış olabilir. Bazı model serileştirme formatları yüklenirken kod çalıştırdığından, bir model dosyasını açmak tek başına kod yürütmeye yol açabilir. Bu risklerin geleneksel bileşen zafiyetleriyle ortak yanları, geniş çerçevesiyle Tedarik zinciri saldırısı başlığında ele alınır.

Bileşenleri Görünür Kılmak

Riski yönetmenin ön koşulu, sistemin neyi barındırdığını tam olarak bilmektir. Hangi modelin hangi sürümünün, hangi veri kümesiyle eğitildiğinin ve hangi kütüphaneleri çektiğinin envanterini tutmak, bir zafiyet duyurulduğunda etkilenip etkilenmediğinizi dakikalar içinde yanıtlamanızı sağlar. Bu envanterin standart ve makine okunur biçimi, geleneksel dünyada olduğu gibi bir Yazılım malzeme listesi ile üretilir; AI dünyasında buna model ve veri kalemleri de eklenir.

Bütünlüğü Doğrulamak

Bir bileşenin nereden geldiğini bilmek yetmez; onun yolda değiştirilmediğini de doğrulamak gerekir. Model dosyalarının ve yayınlanmış paketlerin sağlamasının kontrol edilmesi, üreticinin dijital imzasının doğrulanması bu güvenceyi verir. Yayıncının kimliğini kriptografik olarak bağlayan Kod imzalama sertifikaları, indirilen bir modelin gerçekten iddia edilen kaynaktan geldiğini ve sonradan kurcalanmadığını göstermenin en güvenilir yoludur.

Kurumsal Yaklaşım

Sağlam bir tedarik zinciri duruşu, dış modelleri ve veri kümelerini üretime almadan önce güvenilir kaynaklardan çekmeyi, sağlama ve imzalarını doğrulamayı ve içeriğini taramayı bir kapıya bağlar. Bu kontroller bir kez yapılıp bırakılmaz; bileşenler güncellendikçe tekrar edilir. Zincirinize giren bileşenleri ve bunları barındıran uygulamaları sürekli sınamak için Düzenli zafiyet tarama hizmetimiz ile taramalarınızı düzenli biçimde yürütebilirsiniz.