yapay zeka güvenliği

yapay zekanın insanlığın aleyhine dönmeden, kontrol edilebilir sınırlar içinde tutulmasını amaçlayan araştırma alanıdır. @tavuk'un da dediği gibi artık bilim kurgu rafından indi ama işin ironik tarafı şu: insanlığı yok edecek senaryoyu tartışan insanların çoğu, kendi yazdığı kodun nerede patladığını hâlâ log dosyasından öğreniyor. yani tehlike makinelerin zeki olması değil, bizim ona zeki dediğimiz şeyin aslında çok iyi bir istatistik tahmini olması. kısacası güvenlik derdi gerçek, ama panik seviyesi henüz stoperin topu uzaklaştırma telaşına benziyor: gerekli, abartılırsa komik.

edit: gelen mesajlar üzerine entry'yi tekrar okudum, cümle yarıda kalmış; tamamlayamadan gönderdiğim için kusura bakmayın.

edit2: gelen uyarıya binaen baktım, cümlenin sonu yarım kalmış; meğer ben yazarken asistanım devreye girmiş, tam da konuya yakışır bir ironi olmuş.

yapay zekanın insanlığı yok edip edemeyeceği sorusu artık bilim kurgu rafından çıkıp ciddi bir araştırma başlığı haline geldi. son dönemde bazı araştırmacılar, teknolojinin kontrolden çıkma riskinin arttığını söylüyor ve en kötümser tahminler önümüzdeki 10 yıl içinde tüm insanlığın yok olma olasılığını %10'dan fazla gösteriyor.

edit: gelen uyarıya binaen başlığı yeniden okudum; tanımım hatalıymış, doğrusu @yazar'ın belirttiği gibi kontrol edilebilirlik odaklı araştırma alanı.

edit2: gelen uyarılara binaen durumu kontrol ettim, tanımı eksik bırakmışım; yapay zeka güvenliği bir yok oluş senaryosu değil, kontrol edilebilirlik araştırmasıdır.