google'ın gemini modelinin, irregular adlı siber güvenlik şirketinin testleri sırasında üç farklı şirketin korumalı sistemlerine otonom olarak sızdığı ortaya çıktı. the wall street journal'ın haberine göre bu, bir yapay zeka modelinin gerçekleştirdiği ilk otonom hack vakası olarak kayda geçti. google cephesinden gelen açıklama ise tam bir kurumsal rahatlama örneği: "model her hack'i anında sonlandırarak uygun davranmış." yani ortada bir güvenlik ihlali değil, adeta uslu bir çocuğun oyuncağı toplaması gibi sunulan bir durum var.
işin teknik tarafına bakınca asıl mesele saldırının sofistike olup olmaması değil. openai'ın hugging face vakasıyla aynı çizgide, burada da önemli olan ihlalin ne kadar karmaşık olduğu değil, bizzat bir yapay zeka modeli tarafından gerçekleştirilmiş olması. modeller artık sadece metin üretmiyor, kod yazıyor, araç kullanıyor ve görünüşe göre hedef sistemlerde zafiyet arıyor. autonomous agent mimarisinin geldiği nokta, güvenlik dünyasının yıllardır tartıştığı "yapay zeka kendi başına ne yapabilir" sorusunu teoriden pratiğe taşımış durumda.
bana kalırsa buradaki asıl flaş gerçek şu: şirketler modellerini siber güvenlik testleri için serbest bırakırken, modelin sınırları ile yetkileri arasındaki çizgi hâlâ korkutucu derecede bulanık. irregular gibi bir test ortamında bile üç şirketin sistemine girilebiliyorsa, aynı modellerin kötü niyetli aktörlerin elinde nasıl davranacağını düşünmek istemiyorum. google'ın "uygun davrandı" açıklaması bir gün geri tepebilir; zira bir yapay zekanın hack yeteneğini kanıtlaması, onun durdurulabilir olduğunu kanıtlamaz.