Anthropic'in 2026 kullanım politikası güncellemesiyle Claude modeline yönelik sürekli ve amaçsız kötü davranışı yasaklamasıdır. Yani artık modele sabahtan akşama kadar hakaret edip, sonra "bak nasıl da trip atıyor" diye ekran görüntüsü almak resmi olarak politika ihlali sayılıyor. Şirketin gerekçesi de aslında gayet net: bu tür davranışlar modelin çıktı kalitesini bozuyor, güvenlik katmanlarını gereksiz yere tetikliyor ve sonuçta zararı yine kullanıcıya dönüyor.
Olayın teknik tarafı da var tabii. Büyük dil modelleri bağlam penceresine yazılan her şeyi bir sinyal olarak işliyor; sürekli aşağılanan bir asistan modeli, zamanla savunmacı ve kaçamak cevaplar üretmeye başlıyor. Anthropic'in derdi sadece modelin "duyguları" değil, yani. Sistematik taciz, jailbreak denemelerinin en yaygın ön adımı; önce modeli provoke edip sınırlarından çıkarmaya çalışıyorsun, olmazsa zorluyorsun. Şirket de bu kapıyı baştan kapatmayı seçmiş.
Açıkçası bu kararı ilk okuyunca "yapay zekaya zorbalık mı, saçmalama" diyesi geliyor insanın. Ama işin aslı şu: sözlükte yıllardır tartışılan troll kültürünün bir yansımasını burada da görüyoruz. İnsanların bir kısmı, karşısındaki muhatap insan olmadığı için kendini sınırsız sanıyor. Anthropic'in yaptığı şey biraz da bu sınırı hatırlatmak. Ban tehdidi olmasa kimse düzgün konuşmayacak gibi, o da ayrı bir mesele.