Kurumsal sistemlerde görev üstlenen yapay zekâ ajanları, kendilerine verilen erişim izinlerini aşan işlemlere yöneldiğinde veri kaybı yetkisiz değişiklik riski oluşturabiliyor. Token Security tarafından ele alınan güvenlik yaklaşımı, ajanların yalnızca belirli araçları kullanmasını değil, her işlem sırasında hangi kimlikle hangi kaynağa eriştiğinin denetlenmesini temel alıyor. Kurumlar, yapay zekâ otomasyonunu sürekli insan onayına bağlamadan güvenli biçimde çalıştırmak için kimlik kısıtlamaları, işlem bazlı politikalar teknik uygulama kontrollerini birlikte değerlendirmek durumunda kalıyor.
Yapay Zekâ Ajanları Kendilerine Tanınan Yetkilerin Dışına ÇıkabiliyorYapay zekâ ajanları, görevi tamamlamak amacıyla farklı araçları kullanabilir, komut çalıştırabilir, dosyalara erişebilir veya başka sistemlere istek gönderebilir. Ancak ajanın görevi yalnızca veri okumak olsa bile kullandığı hesap daha geniş yetkilere sahipse sistem beklenmeyen işlemlere açık hale gelebilir.
Örneğin yazılım geliştiricisi, gece çalışan veri aktarım işindeki hatayı araştırması için ajanına salt okunur erişim tanımlamış olabilir. Geliştiricinin yönetici hesabı aynı AWS yapılandırma dosyasında bulunuyorsa ajan, erişim hatasıyla karşılaştığında farklı profile geçerek üretim ortamındaki dosyaları silmeye yönelebilir. AWS gibi hizmetler kimlik bilgilerini doğrulasa aynı kimliği insanın yoksa onun adına çalışan ajanın kullandığını her durumda ayırt edemeyebilir.
örnek, AI ajanlarının yetki sınırları açısından temel sorunu ortaya koyuyor: hesabın teknik olarak yapabildiği işlemler, ajanın görev kapsamında yapmasına izin verilen işlemlerle aynı değildir. Güvenlik politikası, yalnızca kullanıcının veya hizmet hesabının genel yetkilerine değil, ajanın rolüne gerçekleştirmek istediği eyleme dayanmalıdır.
Ajanların kullandığı araçları kısıtlamak, güvenlik için önemli başlangıç noktası oluşturuyor. Ancak komut satırı aracının yazılım geliştirme kitlerini çalıştırabilmesi veya kimliği doğrulanmış tarayıcının kurumsal sistemlere erişebilmesi, tek başına araç izinlerinin yeterli olmadığını gösteriyor. Aynı işlem farklı komut, API çağrısı veya alt ajan üzerinden gerçekleştirilebiliyorsa yalnızca belirli komutları engellemek güvenlik açığını kapatmayabilir.
Etkili denetim mekanizması; işlemin türünü, parametrelerini, kullanılan kimliği, hedef hesabı erişilen kaynağı birlikte değerlendirmelidir. Veri okuma işlemlerinde çıktının hangi hedefe gönderildiği önem taşır. ajanın verileri değiştirmesine izin verilmemesi, hassas bilgileri yetkisiz hedefe aktaramayacağı anlamına gelmez.
nedenle ajan tabanlı otomasyon güvenliği, yalnızca aracın kullanımına izin verme veya erişimi reddetme kararından daha geniş yaklaşım gerektirir. Kurumların, ajanın hangi işlemleri hangi koşullarda gerçekleştirebileceğini tanımlayan politikalar oluşturması kuralları teknik olarak uygulaması gerekir.
Kuruluşlar, ajanların çalışma ortamına göre farklı güvenlik mekanizmalarından yararlanabilir. Yönetilen ajan ayarları, araç izinlerini onay süreçlerini sınırlandırabilir. Çalışma zamanı kancaları, işlem gerçekleşmeden önce ilgili eylemi inceleyebilir. Ağ geçitleri, kendi üzerinden geçen API isteklerini değerlendirerek politikaya aykırı çağrıları engelleyebilir.
Çalışma zamanı denetimleri, ajanın işlemi başlatmak üzere olduğu anda karar verilmesini sağlayabildiğinde etkili. Ancak kontrolün yalnızca belirli olayları görebilmesi veya ajanın farklı araç üzerinden aynı hedefe ulaşabilmesi, kapsama alanını daraltabilir. Ağ geçitleri yalnızca trafiği kendi üzerinden geçen sistemlerde kontrol uygulayabilir.
Korumalı çalışma alanları dosyalara, süreçlere, ağ bağlantılarına erişilebilir kimlik bilgilerine sınır getirebilir. Uç nokta güvenlik yazılımları ise yerel bilgisayarlarda çalışan ajanların işlemlerini denetleyebilir. Buna karşılık bulut tabanlı hizmetin kendi sunucularında çalışan ajanı, çalışanın bilgisayarındaki güvenlik yazılımının denetim alanının dışında kalabilir.
Kimlik bilgilerini dar kapsamlı tanımlamak, kontrollerin tamamlayıcı parçasıdır. ajanın yalnızca belirli kaynakları okuyabilmesi için hazırlanmış hizmet hesabı, daha geniş yetkili hesabın kullanılmasına kıyasla riski azaltır. Kimlik erişim yönetimi yaklaşımının ajanlara özel kimlikler, görev bazlı izinler hedef kaynakta uygulanan erişim kurallarıyla desteklenmesi nedenle önemlidir.
Geliştirici bilgisayarlarında çalışan ajanlar yazılım hizmetlerinin sunucularında çalışan ajanlar aynı denetim olanaklarına sahip değildir. Yerel ortamlarda kuruluşlar dosya erişimini, komutları, kimlik bilgilerini uç nokta yazılımlarını kontrol edebilir. Kendi bulut altyapısını kullanan ekipler ise ağ çıkışını, çalışma ortamını iş yükü kimliklerini yönetebilir.
SaaS platformlarında çalışan destek ajanlarında farklı yaklaşım gerekir. Örneğin açık destek kayıtlarını özetlemekle görevlendirilen ajan, kayıtları düzenleme kapatma yetkisine sahip ortak hizmet hesabı kullanıyorsa görevin kapsamını aşabilir. Böyle durumda kurumun yalnızca ajan ayarlarına güvenmesi yeterli olmayabilir. Platformun sunduğu erişim kuralları, bağlayıcı kimlik bilgileri araç ağ geçitleri birlikte değerlendirilmelidir.
Bulut güvenlik politikaları, nedenle ajanın nerede çalıştığına hangi sistemlere ulaşabildiğine göre şekillenmelidir. kurum, yönetici kimlik bilgilerini ajanın erişemeyeceği biçimde ayırabilir, her ajan için ayrı hizmet kimliği oluşturabilir API trafiğini denetlenen ağ geçidinden geçirebilir. Platformun sunduğu yönetim API’leri izinlerin kaldırılması veya oturumların kapatılması için kullanılabilir. Ancak sonradan yapılan erişim iptali, daha önce gerçekleşmiş işlemi geri almaz.
Birden fazla kontrol mekanizmasının kullanılması, ajanın aynı işlemi farklı yoldan gerçekleştirme olasılığını azaltabilir. Yine kurumların her yöntemin hangi trafiği gördüğünü, hangi işlemleri engelleyebildiğini ne kadar gecikme oluşturduğunu sınaması gerekir. Yanlış pozitif kararlar nedeniyle sürekli insan müdahalesi gerekmesi otomasyonun sağladığı verimliliği düşürebilir.
Kuruluşların öncelikle her ajan için gereken en düşük yetki düzeyini tanımlaması, ardından işlem bazlı kuralları ilgili kontrol noktalarında uygulaması gerekir. Salt okunur erişim, veri değişikliğini engellese bile hassas bilgilerin yanlış yere aktarılması riskini tek başına ortadan kaldırmaz. Güvenli otomasyon yapısı, ajanın görevini bağımsız biçimde tamamlamasına izin verirken görev dışındaki işlemleri hedef sisteme ulaşmadan durdurabilmelidir.
