Durdurma problemi varsa Yapay Zekaya hangi sınırları koyar?
Turing makineleri için kanıtlanmış durma problemi göz önüne alındığında, güçlü Yapay Zeka yeteneğine sınırlar getirebilir miyiz?
Durma sorunu insanın bilişinde herhangi bir sınırlama içeriyor mu?
Evet, kesinlikle - bir insanın bakabileceği kod parçaları var ve sonlu zamanda durup durmayacağından emin değilim. (Kesinlikle bir insanın kesinlikle "evet" ya da "hayır" diyebileceği ve söyleyebileceği kod parçaları vardır, ancak analiz edilmesi gerçekten zor olanlardan bahsediyoruz.)
Durma problemi, hiçbir bilgisayarın yapamayacağı kod analizi türleri olduğu anlamına gelir, çünkü matematik olarak imkansızdır. Ancak olasılık alanı hala güçlü yapay zekaya izin verecek kadar büyüktür (kendini geliştirecek kadar iyi anlayabilen kod anlamında).
Durdurma sorunu, hiçbir programın sonlu zamanda durup durmayacağına tek (sonlu) bir yöntemin karar veremeyeceği anlamına gelir. Bu, çözülemeyen sorunlar olduğu anlamına gelmez (elbette var, ancak nedenleri genellikle farklıdır)
Durma problemi, Kararsızlık olarak bilinen genel bir fenomenin bir örneğidir , bu da Turing makinesinin sınırlı bir sürede çözemediği problemler olduğunu gösterir. Bir Turing Makinesinin Rice teoremi adı verilen önemsiz olmayan bazı P özelliklerini karşılayıp karşılamadığının genelleştirilemeyeceğini düşünelim .
İlk olarak durma sorununun yalnızca Turing makinesi keyfi olarak uzun girdi alırsa geçerli olduğunu unutmayın. Giriş sınırlanmışsa, olası tüm durumları numaralandırmak mümkündür ve sorun artık çözülemez. Bunu hesaplamak hala yetersiz olabilir, ancak daha sonra ayrı bir soru olması gereken karmaşıklık teorisine yöneliyoruz.
Rice'ın teoremi, bir zekanın (bir insan), başka bir zekanın (AGI gibi) dostluk gibi belirli bir mülke sahip olup olmadığını belirleyemeyeceğini ima eder . Bu, Dostu bir AGI tasarlayamayacağımız anlamına gelmez, ancak keyfi bir AGI'nin dostu olup olmadığını kontrol edemeyeceğimiz anlamına gelir. Bu nedenle, dostça olması garanti edilen bir AI oluşturabilirken, BT'nin düşmanca olmayan başka bir AI oluşturamamasını da sağlamalıyız.
Kuantum soru yönünü yeni bir soruya ayırdım