akıllı gözlük gibi güç ve termal bütçesi kısıtlı cihazlarda llm çalıştırmanın tek makul yolu modeli küçültmek, bunun en radikal ucu da ağırlıkları tek bite indirmek. prismml'in qualcomm snapdragon platformu için geliştirdiği 1-bit bonsai modeli tam olarak bu ekstrem quantizasyon oyunu: caltech kökenli ekip, yapay zeka alanında öncü isimlerin danışmanlığıyla, gözlük form faktöründe çalışacak bir dil modeli çıkarmış. işin aslı, 1-bit ağırlıklar tam doğruluk kaybı demek ama kazanç muazzam; bellek ayak izi çöküyor, çıkarım hızı uçuyor ve cihaz buluta hiç uzanmadan yerelde cevap üretiyor. zamanında yazdığımız gibi (bkz: #2tJw5T5sfRhr1EZlBwZJX) qualcomm'un modemden çipe uzanan dikey entegrasyon hamlesi şimdi yazılım tarafında da meyve veriyor; snapdragon npu'su ile bu modellerin flörtü, akıllı gözlükleri gerçekten akıllı yapacak asıl kırılma noktası.