ChatGPT会不会有一天突变成强人工智能？
先说是不是，再说为什么：在当前大语言模型的进路上，ChatGPT永远不会成为AGI。本回答真的能够全文读完的朋友，请在评论区举个手。 先讲一段秘史。在很久很久以前，我曾兴冲冲申请过“AGI”的知乎圆桌，然而被拒了。然后，不死心，还曾电话联系知乎小妹，然后两通电话“等回复”，一晃就3年，至今仍在审核中。 浏览了当前AGI进化论圆桌，遗憾的发现多数问题其实并不属于AGI范畴，我放一个2020年的部分截图。 网络真是一个神奇之所，这里人多嘴杂，不乏观点和见解，但能够胜出者，不是真理，就是嗓门大。 OpenAI就是这样一家High-Tech大嗓门的盈利性企业。随着ChatGPT的爆火，一时间连我乎都开始自己筹办AGI的圆桌了。我舔脸来凑个热闹，不只是泼盆冷水，还有深深的自嘲与无奈。 ChatGPT的事往后放，先说说AGI吧，二者压根不是一回事。 时间唿地来到2016年，在那个AlphaGo席卷学术圈的年代。我开始接触通用人工智能，但当时AGI这个词的使用频率远远低于强人工智能和超级智能，甚至也不如认知智能。从理论上看，后三个都不太靠谱，所以我写了论文来说明应该使用AGI而非其他的理由： 因此，在当前语境下：[ AI = AGI + SAI ]是规范的理论框架。 就像看魔术一样，一下子能把大活人给变没，但如果我们知道魔术师的手法，就不再觉得神奇。魔术的关键，并不是真的有魔法，而在于欺骗——让人误以为它是。同样的，人工智能的每次技术进步本质也类似。对于只潜心做技术的朋友们，请大家打开思想，多关注一下计算理论的发展。因为技术本身有的是操作性却并不具有解释性，理论的价值和作用正在于此。不过，数十年间，计算理论的发展一直非常有限，我们已经有了更好的计算设备和算法，为什么这么长的时间中理论却踯躅不前呢？ 因为我们对于根上的问题就没有澄清。 现在对ChatGPT的各式讨论，很多都是模糊不清、仁者见仁智者见智的。不仅如此，围绕AI的所有讨论亦是如此。 本质上，所有的问题和分歧最终都汇聚到一个理论问题上来：何为智能？ 这里需要反复强调：智能不是技术问题，不是算法问题，不是算力问题，它是一个理论问题。有些看上去很智能的东西，实际上没有智能，比如ChatGPT；但有些看上去没智能的东西，实际上却是真有智能，比如人类婴儿。很多年前，王培老师写过一系列文章，下面这篇讨论的就是智能的问题。 我们的观点是，智能是一种对开放环境的主动适应能力，具有知识和资源相对不足的本质特点。所有真正强调“知识和资源相对不足”的研究，都滑向了AGI，反之则落入SAI。因此，它是一条理论路线的分水岭。学术论文也有，专门讨论AI的概念《On Defining Artificial Intelligence》。 实际上，AGI还是SAI并没有好与不好之分，只有场景之别。理论上，探索AGI是揭示人脑和智能黑箱奥秘的捷径，具有重大的理论价值。但理论不能直接变现，也不能直接创造财富，推动经济发展，但SAI可以。而且，AGI并不必然比SAI的应用效果更好，正相反，在所有特定应用问题上，SAI一定比AGI解决得更高效。比如，让人和计算器PK谁算的更准、算的更快，人肯定比不过机器。因为SAI就是工具，但人本身不是，尽管人可以在根据需求临时起到工具的作用。 在这样的理论预设下，人工智能的研究路线就出现了分化，可以参考王培老师的这篇文章： 如果我们将视野放到更大的理论层面，就会发现人工智能与类脑研究的理论汇合点。请参考这篇文章： 该文章已被收入《2018—2019心理学学科发展报告》。它的重要价值就是在涉及人类精神世界的所有学科基础上，提出一个跨学科的理论整合框架，并说明脑科学研究和以人工智能为首的类脑研究的区别，以及仿生和仿心路线的差异。如下图所示： 由于仿生的巨大局限性，所以自己只做仿心这条进路。 说了很多，就是想让大家意识到，讨论ChatGPT容易，但真正看明白、能说清楚却不容易，需要很多理论铺垫才行。基础理论是块宝，我们现在就缺它。难过的是，这东西不挣钱，做理论研究需要吃苦坐冷板凳，长时间读各类书，一年也出不了一篇好论文，写出来论文也不容易发（因为编辑和外审往往都是特定学科出身）。 OpenAI成立于2015年，但AI一词1956被提出。AGI一词的火热是被OpenAI带起来的，然而AGI却不是OpenAI的创造而是移花接木。 和SAI研究的主流AI学界不同，一直有小部分人对真正的智能感兴趣。与人工智能早期工作时所使用“AI”非常相似，“AGI”的表述在2005前后被核心研究群体认可和采用，希望将他们的目标与当前“AI”（即SAI）区分开来。随后，AGI学会的年会及其学报于2008年及2009年相继启动。由于AGI项目的做法往往与主流AI社区有重大差别，所以尽管近年来“AGI”一词大热，但相关研究成果却基本鲜为人知。 也就是说，很早就有一个叫做世界通用人工智能协会的组织在研究AGI的问题了。今天我们遇到的很多与智能有关的问题，大部分已经被前辈们讨论过了，并且有了共识。只是他们规模小、嗓门小，大家不知道而已。下面是官方的网址，里面有历年会议的内容。大家可以了解一下，AGI研究的什么问题。 后来，随着王培老师回国的介绍，中国也出现了一支AGI研究力量。2016年出生，至今已经走过7年历程。如果大家不方便看英文，我就附上中文会议的讨论内容。有官方QQ群：367446800  视频回放在这里： 还有一部分在蔻享：  我在这里任所长，招收教育技术学学硕及心理健康教育专硕，均为三年制。我课题组的研究方向是： 研究通用人工智能，是不是要像学计算机一样精通数学、算法才行？当然不是，你见过哪个婴儿是先把数学学好，才学会了爬行、站立和语言？ 王培老师有句话说的很好：人们通常把智能问题想的过于简单，却把意识问题想的过于复杂。通用人工智能就是直接回应心智和智能根本问题的学科和科学。 希望有更多的朋友能够走入AGI之门： [1] 王培：https://cis.temple.edu/~pwang/ [2] 知网或google scholar搜索王培、徐英瑾、刘凯、那迪、李祥、Patrick等人，也可以搜索钟义信、朱松纯等人。 （1）动机系统。动机系统也即目标系统，是自治型系统的核心标志。没有内在的目标，就无法真正实现自治。这类系统（包括人）的原始动机不是外设的，而是自嵌的。 （2）价值系统。没有基于自身的动机系统，就没有grounding的价值系统。 （3）认知系统。认知系统必然可以对外部进行实时响应，经验的整合是动态进行的。认知功能的操作化必然要求具备短时、长时及工作记忆，而非SAI中借用的LSTM。 （4）经验系统。什么是知识？知识如何表征。一切都要从具身认知说起，AGI需要经验的生成与发展。这点与人类一样，纯粹符号化的离身认知是远远不够的。ChatGPT中的apple，和人们脑海中的apple差异很大。与此同时，如果碰到未知情况又如何应对？AGI退而求其次，可以通过历史经验在合理的时间内生成可行解和合理解，而非最后解或满意解。 （5）外部世界模型。这是AGI认知系统的目的，获取外部经验的同时就在对外部世界建立模型。ChatGPT没有一丝外部世界的模型构建能力。即使有一天，加入了视觉、听觉等素材进行训练，这也不是它借助自身去探索了解的物理世界和人类社会，因为ChatGPT就没有自我。 不少对AGI缺乏理论素养的学者，以图灵测试为标准，叫嚣着ChatGPT已通过测试，具有“真智能”了。殊不知，在AGI以及心灵哲学的小圈子中，前辈们早已指出图灵测试的缺陷，并明确告知图灵测试并不能成为智能的判别标准。 那么什么能够测试呢？事实上，很多人前后想过许多办法，比如乌鸦测试等。其实，这些都不行。因为，没有任何一个测试可以决定特定主体是否具有真正的智能。而且有些主体，比如婴儿们，虽然具有真正的智能，但他们无法通过任何一项人为设定的测试挑战。 所以，压根就没有这样的判断标准吗？不是的。是真的有，但这个判断标准并不是大家想象中的那样——就像大家想象中的AGI系统也不会联系到婴儿身上一样。 真正的智能本身必然具有通用性，但这里的“真”是一个理论真而非应用真。所以，其判别标准也不是应用测试，而是理论测试。即，AGI的真理论，必然能够解决与AGI相关的领域里的难问题，比如心理学、精神病学、人类学、哲学、逻辑学等等。这就是我为什么要研究精神病学的原因，因为我需要用它来验证我的研究假设的正确性。好消息是，目前进展很顺利。 ChatGPT并未在理论上有所突破，更无法对认知科学体系有所贡献。忘掉图灵测试吧，虽然图灵非常伟大，但不是伟人说的每句话都是真理。他们也是人，也有时代的局限性，也会有一些并不成熟的观点。 先分享王培老师的观点： 我再继续补充一下： （1）AGI系统的必备特征，ChatGPT一个都没有。 （2）ChatGPT本质是一个专用的语言大模型。巧妙之处就在于，它选取的是自然语言。而自然语言恰好包含了多个领域的语料数据。所以，看上去“通用”。但真正的AGI的通用，是即使对于一个全新的领域，也不至于无法回应。 （3）因此，ChatGPT不是AGI，在这条暴力美学的道路上，永远也不可能成为AGI，更不可能涌现出自我意识。但凡持智能的涌现说的观点，都是坐在观众席吃瓜看魔术的人，不是物理世界和精神世界中处处都有涌现，或都能涌现的——就像不要用一个未知（如量子效应）去解释另一个未知（如意识）一样。 最后，基础理论研究是最缺乏的，如果有人对此感兴趣，也愿意真心投入。请考虑加入我的课题组，我在美丽的渤海大学湖畔边的通用人工智能研究所等你们。