yapay zeka ajanlarını kontrol altında tutmak için önerilen yaklaşım. klasik oyun teorisi "kurallar böyleyken akıllı aktörler nasıl davranır" diye sorarken, bu tersi çalışıyor: istediğimiz davranışı elde etmek için kuralları biz tasarlıyoruz. pastayı bölme örneği tam da bunu anlatıyor; biri keser, diğeri ilk parçayı seçer, kesen de eşit kesmek zorunda kalır. yani dürüstlüğü ahlakla değil, çıkar hesabıyla dayatıyorsun.
olay şu ki bu fikri yapay zeka ajanlarına uyarlamak, "model iyi niyetli davransın" dileğinden çok daha sağlam bir zemin. çünkü bir modele ne kadar "kurallara uy" desen de, ödül fonksiyonu onu başka yöne çekiyorsa lafta kalıyor. ters oyun teorisi tam burada işe yarıyor: ajanın kuralı çiğnemesini kendi zararına çeviren bir mekanizma kuruyorsun. son dönemde ajanların kendi başına iş yapmaya başlamasıyla bu tartışma iyice alevlendi; artık mesele modelin ne dediği değil, ne yapmaya teşvik edildiği.
bana kalırsa asıl soru şurada patlıyor: kuralları tasarlayan kimin çıkarına tasarlıyor? aynı mantıkla bir şirket de kendi ajanını kendi lehine hizaya sokabilir, ki bu sefer "hizada tutmak" dediğimiz şey sadece bir başkasının işine yarar. yani yöntem teknik olarak temiz, siyasi olarak ise hayli bulanık. bir de not düşelim, haberin diğer ayağındaki ara seçimler de tam bu soruyu soruyor zaten: yapay zekanın siyasete etkisini kim, hangi kurallarla sınırlayacak?