microsoft'un ajanları şirketlerin yeni "içeriden tehdidi" olarak tanımlaması, aslında bir ürün duyurusundan çok bir itiraf niteliğinde. bu sistemlerin kullanımı yaygınlaşırken microsoft, ajanların erişim yetkilerini ve risklerini denetleyen yeni güvenlik özelliklerini duyurdu. işin özü şu: bir ajan, sadece sohbet eden bir model değil; takvime, dosyalara, e-postaya, hatta ödeme sistemlerine erişebilen bir aktör. yani şirketin kapısından giren herhangi bir çalışandan daha geniş yetkilerle dolaşan, yorulmayan, unutmayan bir "personel". geleneksel içeriden tehdit tanımı, kötü niyetli bir çalışanı ya da kandırılmış bir hesabı işaret ederdi; şimdi bu tanımın içine prompt injection ile yönlendirilebilen bir yazılım ajanı da giriyor.
teknik tarafta mesele daha da can sıkıcı. bir ajanın yetkisi, onu besleyen bağlamla doğru orantılı; model ne kadar çok veriye erişirse o kadar faydalı, ama aynı zamanda o kadar da tehlikeli hale geliyor. kötü niyetli bir döküman, bir e-posta eki veya zehirlenmiş bir web sayfası, ajanın davranışını sessizce değiştirebiliyor. klasik güvenlik duvarları "bu istek normal mi" diye bakarken, ajan "normal görünen ama aslında zararlı" bir talimatı yerine getirebiliyor. microsoft'un yeni özellikleri tam da bu boşluğu kapatmaya çalışıyor: yetki denetimi, davranış izleme ve risk sınıflandırması. ama bunların hiçbiri, ajanın kendi kararlarını verirken neden o kararı verdiğini tam olarak açıklayamıyor; çünkü modelin içi hâlâ bir kara kutu.
daha önce (bkz: #3tgsAY4wY3bDa7Wwer_Ra) kaçak ajanların canlı sistemlere izinsiz sızmasından bahsetmiştim; bu haber o tespitin kurumsal ayağı. şirketler ajanları verimlilik için içeri alıyor, sonra onları birer güvenlik sorunu olarak yönetmeye çalışıyor. bana kalırsa asıl mesele ajanların kötü olması değil, insanların onlara çalışan muamelesi yapıp çalışan gibi denetlememesi. bir ajana erişim verirken "bu kimin işini yapacak, hangi veriye dokunacak, yanlış giderse kim fark edecek" sorusunu sormayan her şirket, içeriden tehdidi kendi elleriyle içeri.