Anthropic'in en hızlı ve en uygun maliyetli modeli olarak duyurduğu sürümdür. Şirketin verdiği bilgiye göre önceki Haiku sürümüne kıyasla maliyette %75'e varan bir düşüş var; hedef kitle de zaten yüksek hacimli, tek tek "zeka" değil ölçek isteyen işler. Yani klasik frontier yarışından çok, birim maliyet başına iş yarışına oynanan bir hamle.
Olayın perde arkası şu: büyük dil modellerinde asıl para artık eğitimde değil, çıkarımda (inference) dönüyor. GPT-4 sınıfı bir modele her log satırını, her destek talebini, her ürün açıklamasını yazdırırsan fatura ay sonunda duvar gibi geliyor. Haiku 5.5 tam burada devreye giriyor; sınıflandırma, özetleme, yönlendirme, function calling gibi görevleri daha büyük modele hiç uğratmadan halletmek için biçilmiş kaftan. Benzer bir mantığı daha önce eklenti tarafında da görmüştük (bkz: #NstMsiA8fIepzm_8yvoKB), Anthropic artık model ailesini katman katman konumlandırıyor.
Bana kalırsa asıl mesele %75 rakamı değil, bu rakamın hangi işlerde gerçekten geçerli olduğu. Çünkü küçük modeller hızlı ve ucuz ama karmaşık akıl yürütmede hâlâ büyüklerin gerisinde; doğru mimari, işi katmanlara bölüp ucuz modele ucuz işi vermekten geçiyor. Kısa vadede kazanan, modelleri birbirine karşı değil, birbirinin yerine konumlandırmayı bilen ekipler olacak.