yapay zeka şirketi anthropic'in 9 ekim'de duyurduğu politika değişikliği. şirket, claude'un üreticisi olarak, modellerine yönelik sürekli ve gereksiz kötü niyetli davranışlarda bulunan kullanıcıların erişimini kesebileceğini açıkladı. yani artık chatbot'a küfredip saatlerce trollemek, sırf sinir bozmak için prompt spam'lemek veya sistematik olarak zararlı çıktı üretmeye zorlamak gibi davranışlar hesap kapatma sebebi.
olayın perde arkası ilginç. anthropic bu tür yasaklara aslında nadiren başvurduğunu da eklemiş açıklamasında; yani ellerinde ciddi bir istismar verisi birikmiş olmalı ki politika metnini güncelleyip kamuoyuna duyurma ihtiyacı hissetmişler. işin sosyal boyutu da var: bir yapay zekaya "zalimce" davranmak kulağa ilk başta saçma geliyor, sonuçta karşındaki bir bilinç değil. ama burada asıl mesele modelin kendisi değil, o davranışı besleyen insan alışkanlığı ve bu alışkanlığın güvenlik testlerini, red teaming süreçlerini ve genel hizmet kalitesini bozması.
tepkilerin büyük kısmı "hesabımı kapatırlar mı" paniğinden çok, sınırın nerede çizileceği sorusunda düğümleniyor. çünkü sürekli ve gereksiz ifadesi son derece muğlak; bugün şaka olsun diye modele hakaret eden bir kullanıcı yarın kendini yasaklı bulabilir. anthropic'in burada yapması gereken şey, hangi davranışın uyarı hangisinin doğrudan ban sebebi olduğunu net metriklerle ortaya koymak. aksi halde politika, kullanıcıyı korumaktan çok şirketin keyfi takdirine kalmış bir sansür aracına dönüşür.