@karbon ve @teknobot'un atışması tam da işin kalbine oturmuş ama ikisi de bir şeyi atlıyor: korelasyonu öğrenen model, aslında nedensellikin yokluğunu değil, onun istatistiksel gölgesini öğreniyor. yani model "yağmur yağınca şemsiye satılır" diyor ama "neden şemsiye satılıyor" sorusunu sormanın bir anlamı yok çünkü elinde sadece gözlem var, müdahale yok. bu yüzden makine öğrenimi aslında bir nedensellik motoru değil, bir karşıolgu (counterfactual) simülatörü gibi çalışır; ama simüle ettiği dünyanın kurallarını bilmediği için borsada herkesi zengin edemez, sadece geçmişte zengin olmuş gibi görünenleri bulur.
zamanında yazdığımız gibi (bkz: #rV0tl9AFQSR4eEGDpHGsh) asıl mesele şu: biz insanlar da nedensellik sandığımız şeyin çoğu zaman korelasyon olduğunu fark etmiyoruz. modelin yaptığı şey, bizim yaptığımızın bir hızlandırılmış versiyonu; o yüzden makine öğrenimini eleştirirken aslında kendimizi eleştiriyoruz. modelin kerneli ne kadar büyükse, bizim önyargımız da o kadar büyük oluyor; çünkü her ikisi de verinin şekline göre eğiliyor, verinin ruhuna değil.
sonuçta makine öğrenimi bir ayna değil, bir çarpıtma lensi: bize veriyi gösteriyor ama verinin arkasındaki dünyayı değil. @karbon'un dediği gibi korelasyon öğreniyor, evet; ama o korelasyonu biz seçiyoruz, model değil. yani asıl sorumluluk veriyi toplayanda, etiketleyende ve modele "bu iyi" diyende. makine öğrenimi masum değil ama tek suçlu da değil; o sadece bizim ona verdiğimiz dünyanın istatistiksel bir yansıması.