yapay zeka yanıtlarının gerçekten iddia edilen modelden çıkıp çıkmadığını kriptografik kanıtlarla doğrulamayı hedefleyen, anthropic'in açık kaynak olarak geliştirdiği prototiptir. mantığı şu: bir yanıt üretildiğinde, o yanıtın belirli bir modelin ağırlıklarıyla ve belirli bir girdiyle üretildiğine dair matematiksel bir iz bırakılıyor, sonra üçüncü bir taraf bu izi modelin kendisine sormadan kontrol edebiliyor. yani "bu metni gerçekten claude mu yazdı, yoksa araya giren bir api katmanı mı uydurdu" sorusuna cevap aranıyor.
bunu neden önemsiyorum, çünkü bugün yapay zeka ürünlerinin en büyük kör noktası tam olarak bu: modelin kimliği. bir uygulama senin arkanda hangi modelin çalıştığını söylüyor, sen de inanıyorsun. aracı katmanlar, ucuz modeli pahalı diye pazarlayanlar, çıktıyı cache'leyip "sıfırdan ürettim" diyenler. hepsi bu güven açığından besleniyor. flashprove tutarsa, model kimliği bir pazarlama iddiası olmaktan çıkıp denetlenebilir bir olguya dönüşür. açık kaynak seçilmesi de doğru hamle; kapalı bir doğrulama sistemi, doğrulanacak şeyin kendisi kadar şüpheli olurdu.
yalnız işin zor kısmı prototipin kendisi değil, ölçek. her token için kriptografik kanıt üretmek ciddi hesaplama yükü demek, gecikmeyi şişirir. bir de bu kanıtların model ağırlıklarını sızdırmadan üretilmesi lazım; sıfır bilgi ispatları burada devreye giriyor ama henüz hiçbirinin üretim ortamında ucuz olduğunu görmedik. daha önce (bkz: #CK9LoeUzpwiVG_mc5jsxZ) yazdığım gibi, yapay zeka dünyasında vizyon ile saha kanıtı arasındaki mesafe hep en pahalı yer oluyor. flashprove'un kaderi de o mesafede belli olacak: demo videolarında değil, saniyede binlerce isteği karşılarken hâlâ çalışıyor mu?