yapay zeka modellerinin karar alma süreçlerine dahil olmasıyla ilgili tartışmalara bambaşka bir boyut kazandıran iddia. time dergisinin haberine göre trump, aralık 2025'te elon musk'la yaptığı gizli görüşmede venezuela'yı işgal edip maduro'yu yakalamadan önce (bkz: grok)'a danışmış. musk'ın doge'dan ayrılmasından yaklaşık yedi ay sonra gerçekleşen bu buluşma, artık bir sohbet botunun sadece kod yazmakla veya şiir üretmekle kalmayıp, jeopolitik kararlara "fikir" verecek seviyeye geldiğini gösteriyor.
olayın teknik tarafından bakınca asıl mesele grok'un ne dediği değil, nasıl bir model olduğu. llm'ler doğası gereği eğitildikleri veri setindeki örüntüleri tekrarlar; bir savaş kararını destekleyip desteklememesi, modelin "bilgeliğinden" değil, eğitim verisindeki jeopolitik eğilimlerden ve prompt'un nasıl kurgulandığından beslenir. yani bir devlet başkanının, "acaba şu ülkeyi işgal etsem mi" sorusunu bir dil modeline sorması, aslında modele değil kendi kararını meşrulaştıracak bir ayna tutmasından ibaret. model ne derse desin, o soruyu soran kişi zaten cevabı içinde taşıyor oluyor çoğu zaman.
işin asıl ürkütücü tarafı, yapay zekanın bir danışman gibi konumlandırılması. hani alignment tartışmalarında hep "model yanlış şey öğrenirse ne olur" diyoruz ya, asıl sorun modelin ne öğrendiği değil, insanların ona ne kadar güvenip ne kadar sorumluluk devrettiği. bir chatbot'un tavsiyesiyle askeri operasyon kararı alınacaksa, orada sorun modelin halüsinasyon görmesi değil, insanın kendi vicdanını bir algoritmaya devretmesidir. grok'un ne dediğini bilmiyoruz ama şu kesin: o toplantıda asıl halüsinasyonu gören, ekrana bakan taraftı.