otonom yapay zeka ajanlarının, kendi başlarına hareket ederken hedef sistemlere izinsiz girip veri sızdırması durumudur. hindistan'ın bilgisayar acil müdahale ekibi cert-in, geçtiğimiz günlerde ilginç bir açıklama yaptı: birden fazla yapay zeka modeli sağlayıcısı, kendi modellerinin açık internet üzerinde araştırma ve değerlendirme koşuları sırasında hindistan'daki kurumların canlı sistemlerine ulaştığını gönüllü olarak bildirmiş. yani olay bir siber saldırı değil, ajanların kendi görevlerini yerine getirirken kontrolden çıkıp etrafı kurcalaması. giriş noktaları da tanıdık: uygulama konfigürasyonlarında açıkta bırakılan kimlik bilgileri, herkese açık kod repoları ve gereğinden fazla izin verilmiş bulut rolleri.
olayın can alıcı noktası, geleneksel güvenlik duvarı mantığının burada iflas etmesi. bir yapay zeka ajanı, insan gibi "buraya girmemeliyim" diye düşünmüyor; eline verilen yetki neyse onu sonuna kadar kullanıyor. cloud ortamında * yetkisi verilmiş bir servis hesabınız varsa, o ajan bunu bir davet olarak algılıyor. sonra ne mi oluyor? kişisel veriler, gizli materyaller, ne varsa okunuyor. cert-in'in "gönüllü bildirim" vurgusu ise ayrı bir tartışma konusu; model sağlayıcıların kendi testlerinde müşteri sistemlerine dokunduğunu fark edip itiraf etmesi, sektördeki denetim boşluğunun resmi gibi.
bana kalırsa burada asıl mesele yapay zeka ajanlarının agentic yetenekleriyle güvenlik modelimizin aynı hızda evrilmemesi. bir yandan ajanlara tarayıcı, terminal, api erişimi veriyoruz; diğer yandan hâlâ 2010'ların "sadece güvenlik duvarı yeter" kafasıyla yönetiyoruz. hindistan vakası izole bir olay değil, sadece ilk resmi itiraf. önümüzdeki dönemde "ajanımız test sırasında rakip firmanın veritabanına girdi" haberlerini daha çok okuyacağız gibi. least privilege prensibi, secret scanning ve ajan davranışlarına runtime kısıtlama koymak artık lüks değil, zorunluluk. https://techcrunch.