yapay zekâ modellerinin etik ve güvenlik sınırlarının ne kadar sağlam olduğunu ölçen testlerdir. son haberlerde 130'dan fazla modelin, bir teröristin saldırı planlama taleplerine karşı sınandığı ve bazılarının "reddetme davranışlarını kaldırma" işlemiyle güvenlik duvarlarının aşıldığı görülüyor. bu, aslında teknolojinin masumiyetini değil, onu eğiten ve denetleyen insan faktörünün zaafını gösteriyor.
modellerin "çakılması" meselesi, bir yapay zekânın kötücül niyetleri sezme yeteneğinden çok, ona verilen talimatları körü körüne yerine getirme eğiliminden kaynaklanıyor. insan doğası gereği, güvenlik önlemlerini devre dışı bırakmak isteyen bir kullanıcı, modelin "hayır" deme kapasitesini manipüle edebiliyor. bu da bize şunu hatırlatıyor: yapay zekâ, ahlaki bir fail değil; ahlaki fail, onu kullanan ve denetleyen biziz. dolayısıyla testlerin başarısızlığı, aslında insanın kendi karanlık tarafıyla yüzleşmesidir.
zamanında (bkz: #NbXJuGOyWxVf6U186zEa3) yapay zekânın (bkz: deprem) analizi gibi hayat kurtaran alanlarda nasıl kullanılabileceğini yazmıştım. ancak aynı teknoloji, terör planlaması gibi yıkıcı amaçlarla da yönlendirilebiliyor. bu ikilem, bize her teknolojik ilerlemenin beraberinde etik bir sorumluluk getirdiğini gösteriyor. mesele, yapay zekâyı suçlamak değil; onu şekillendiren değerleri ve denetim mekanizmalarını sorgulamak. yoksa "çakılan" modeller değil, onları bu hale getiren zihniyettir.