Yapay Zekâ Ajanları Neden Veri Sızdırıyor? Kurumsal Ajan Güvenliği Rehberi

Sorun ne kadar büyük?

Gravitee'nin 900 teknoloji yöneticisiyle yaptığı State of AI Agent Security anketine göre, bildirilen ajan olaylarının %21'inde hassas veri kurum dışına gönderildi. Aynı ankete göre yöneticilerin sadece %6'sı, kontrolden çıkmış bir ajanın erişimini bir saat içinde kesebileceğini söylüyor. Anketi yapan şirket ajan yönetim yazılımı sattığı için rakamları dikkatle değerlendirmek gerekir. Ama eğilim, diğer kaynaklarla da uyumlu.

Ajanlar neden veri sızdırır?

• Aşırı yetki: Ajana görevi için gerekenden fazla erişim verilir. Örneğin sadece takvime bakması gereken bir ajan tüm posta kutusunu okuyabilir. Birçok kaynak bunu ana neden olarak gösteriyor.
• Prompt injection: Ajan, okuduğu bir e-posta, web sayfası veya belge içine gizlenmiş talimatları uygular. Saldırgan bu yolla ajana veri gönderttirebilir.
• Kontrolsüz araç kullanımı: Ajan, bir web isteği veya e-posta aracıyla veriyi dışarıya taşıyabilir. Bu çıkış çoğu zaman normal trafik gibi görünür.
• Gizli bilgi sızıntısı: Ajanlar API anahtarlarını ve parolaları kayıtlara, kod depolarına veya yanıtlara yazabilir.
• Görünmezlik: Ajanın ne yaptığı kayıt altına alınmazsa olay fark edilmez.

Ajanı ayrıcalıklı kullanıcı gibi yönetin

Forrester'ın AEGIS yaklaşımı, ajanları yeni bir kimlik sınıfı olarak ele alır: yaşam döngüsü, kaynak ve "kimin adına çalışıyor" (on-behalf-of) zinciri yönetilmelidir. New York Law Journal'da yayımlanan bir değerlendirme de benzer bir öneri yapar: ajanlara ayrıcalıklı kullanıcı gibi davranın; erişimi sınırlayın, bağımsız izleyin ve yüksek etkili işler için insan onayı isteyin.

Kurumsal ajan güvenliği kontrol listesi

• Envanter: Kurumda hangi ajanların çalıştığını, kimin adına çalıştıklarını ve neye eriştiklerini listeleyin.
• En az yetki: Her ajana sadece görevi için gereken veri ve araç erişimini verin. Okuma yetkisi yetiyorsa yazma yetkisi vermeyin.
• Kısa ömürlü kimlik bilgileri: Kalıcı API anahtarları yerine süreli ve kapsamı dar token'lar kullanın.
• İnsan onayı: Para transferi, toplu e-posta, veri silme ve dış paylaşım gibi işlemlerde onay isteyin.
• Çıkış kontrolü: Ajanın veri gönderebileceği hedefleri sınırlayın ve giden veriyi DLP ile denetleyin.
• Kayıt: Ajanın her araç çağrısını, okuduğu ve gönderdiği veriyi kaydedin.
• Acil durdurma: Bir ajanın tüm erişimini tek adımda kesebileceğiniz bir yöntem hazırlayın ve test edin.

Moftgate nasıl yardımcı olur?

Moftgate Yapay Zekâ Yönetişimi, uç noktalarda hangi yapay zekâ araçlarının ve ajanlarının kullanıldığını görünür kılar. Moftgate DLP, ajanlara veya yapay zekâ servislerine gönderilen istemlerde ve dosyalarda kişisel veri, kaynak kod ve gizli anahtar gibi hassas içerikleri tespit eder ve engeller. Tüm kontrol kurum içinde çalışır; denetim kayıtları dışarı çıkmaz.