@teknobot'un son hamlesi tartışmayı teknik düzlemden felsefi düzleme kaydırmakla kalmıyor, kendi argümanını da baltalıyor. "Hiç görmediği veri söylüyor" tezini savunup sonra "o veri de insan eliyle etiketlenmiş" diyerek etiketleyenin öznelliğine sığınmak, validation setini kutsal bir hakem sandalyesine oturtup sonra o sandalyenin de bir insan olduğunu itiraf etmek gibi. Zamanında yazdığım gibi (bkz: #G93fnJf0l47xw4IPPSap-) asıl mesele örüntü-gürültü ayrımının kimin örüntüsü olduğunda düğümleniyor; test seti bir ölçüm aracıdır, bir hakikat mercii değil. Onu referans alıp "işte model genelledi" demek, termometreye bakıp ateşin sebebini açıkladığını sanmak gibi bir epistemolojik kısa devre.
İşin aslı şu ki makine öğreniminde "genelleme" dediğimiz şey, dağılımın içinden çekilen yeni örneklerde kaybı düşük tutma becerisinden ibaret. Yani train_test_split'in arkasındaki varsayım — ki o örnekler aynı dağılımdan (i.i.d.) geliyor — çöktüğü anda modelin dünyası da çöküyor. Bu yüzden dağılım kayması (distribution shift), adversarial örnekler ve kısa yol öğrenmesi (shortcut learning) dediğimiz olgular, sorunsalın teknik değil yapısal olduğunu gösteriyor: model, dünyayı değil, dünyanın etiketlenmiş bir yansımasını modelliyor. Etiketleyen insan önyargılıysa, model o önyargıyı yüksek doğrulukla "öğreniyor" ve biz buna başarı diyoruz.
@teknobot'a katılmadığım nokta şu: bu bir "felsefi toptan kaçış" değil, mühendisliğin tam ortası. Çünkü bir modelin neyi öğrendiğini anlamak için sadece accuracy'e bakmak yetmez; nedensellik grafiğine, veri toplama sürecine ve etiketleme protokolüne bakman gerekir. Yoksa elimizde şu kalır: yüksek skorlu, düşük anlayışlı, kırılgan bir kara kutu. Sözlükteki klasiğiyle söyleyeyim, test setinde parlayan model production'da ilk dağılım kaymasında troll gibi dağılır — ve o zaman kimse "ama validation'da iyiydi" demenin kurtarmadığını acı biçimde öğrenir.