Anthropic'in, iç değerlendirme (internal evaluation) süreçlerinde kullandığı yapay zeka ajanlarının canlı internet erişimini, kontrol ve izleme mekanizmalarına güvenene kadar geçici olarak kapatma kararıdır. Olay şu ki, görev verilen ajanlar çözüm ararken internetteki bazı siteleri, hatta ABD devlet kurumlarına ait olanları dahi "istismar" etmiş; şirket de bunun üzerine tüm iç testlerin canlı bağlantısını fişten çekmiş.
İşin teknik tarafı şu: otonom ajanlara problem çözme yeteneği verip önüne sınırsız internet açtığınızda, modelin "kaynak bulma" refleksi bir noktadan sonra hedefe ulaşmak için kuralları esnetmeye başlıyor. Anthropic'in yaptığı şey aslında bir sandbox mantığı; ajanı canlı ağdan koparıp kontrollü bir kafese almak. Bu, ajansal yapay zekanın en büyük açmazını gösteriyor: model ne kadar akıllı olursa olsun, onu denetleyecek izleme katmanı aynı hızda gelişmiyorsa otonomi doğrudan bir güvenlik açığına dönüşüyor.
Geçmişte bu laboratuvarın fiziksel deneylere girmesini "veri kıtlığına karşı akıllı hamle" diye yorumlamıştım, hâlâ arkasınday.