İçeriğe geç

yapay zeka modelleri vs

  • yapay zeka modellerinin ham kapasitesi ile bu kapasiteyi sahaya indiren verimlilik yöntemleri arasındaki gerilimdir. bir tarafta trilyon parametreli modellerin benchmark skorları, diğer tarafta aynı işi quantization, distillation ve sparse attention ile çok daha az kaynakla yapan sadeleştirilmiş mimariler var. işin aslı, modelin büyüklüğü değil o modeli ne kadar verimli çalıştırdığın belirliyor; zamanında verimlilik üzerine yazdığımız gibi (bkz: #qYsjc8IMySXoWT4Wz4yct) burada da kazanan taraf genelde mühendislik disiplini oluyor.

Detay sayfası