(bkz: çip mimarileri) ile (bkz: makine öğrenimi) arasındaki ilişki, sanıldığı gibi "donanım yazılımı besler" şeklindeki tek yönlü bir hikaye değil; son on yılda tam tersine dönen bir karşılıklı bağımlılık ilişkisidir. bir zamanlar cpu'lar genel amaçlıydı ve yazılım onlara uyum sağlardı. bugün ise makine öğrenimi modellerinin bellek bant genişliği, matris çarpım yoğunluğu ve veri tipi ihtiyaçları o kadar baskın ki çip mimarileri bu ihtiyaçlara göre yeniden şekilleniyor. nvidia'nın tensor çekirdekleri, google'ın tpu'ları, apple'ın unified memory yaklaşımı. hepsi aynı sorunun farklı cevapları: transformer'ların açlığını hangi silikonla doyurursun?
meselenin asıl can alıcı noktası şu: makine öğrenimi artık sadece çip tasarımını tüketmiyor, onu üretiyor da. çip yerleşimi (floorplanning), yönlendirme (routing) ve doğrulama gibi saatler süren işler bugün sinir ağlarıyla hızlandırılıyor. yani bir yanda makine öğrenimi için özel silikon dökülürken, öbür yanda o silikonun tasarımı makine öğrenimiyle yapılıyor. daha önce belirttiğim gibi (bkz: #nhBIpBrtRrTXRZ17xckFC) bu döngüdeki asıl darboğaz hiçbir zaman ham hesap gücü değil, veriyi çipe yetiştiren bellek duvarı oldu. hbm yığınları, on-chip sram ve yakın bellek hesaplama tartışmalarının tamamı bu duvarı aşma çabası.
finans tarafından bakınca tablo daha da netleşiyor: tek bir h100 rafının maliyeti orta ölçekli bir şirketin yıllık yazılım bütçesini aşabiliyor, bu da çip mimarisini bir mühendislik tercihi olmaktan çıkarıp bir sermaye tahsisi problemine dönüştürüyor. veri merkezlerine akan milyarlar, hangi mimarinin kazanacağını piyasa belirliyor gibi görünse de aslında belirleyen şey, hangi model ailesinin o mimariye daha ucuz sığdığı. yani tartışmanın başlığındaki "vs" yanıltıcı; ortada rekabet değil, gitgide sıkılaşan bir evlilik var ve bu evliliğin faturasını son kullanıcı olarak biz ödüyoruz.