人工智能不能做什么
现在我们应该对人工智能提一个终极的问题：人工智能不能做什么？
这个问题可以分为两类：一类是基于人工智能的局限性，或者基于人工智能与人类心智的本质差异，人工智能不能做什么。另一类是即使出现了全智全能的人工智能，出于道德的考虑和对人类命运的关切，人工智能不能做什么。这两类问题是互相关联的。
不能产生意识和自我意识。人工智能的根本局限性是不能产生意识和自我意识。这个问题笔者曾在《大科学时代的基础研究、核心技术和综合创新》一文中作过论述。[10]郞咸平教授最近在《AlphaGo风光背后：人工智能时代加速到来》节目中，以“智能经济”、“智能犯罪”、“智能天网”和“智能意识”四种人工智能为例，分析人工智能发展如何陷入二律背反。
以“智能经济”为例，如果人工智能完全取代人工，则劳动价值归零，工资也归零，经济却无限增长，社会产品无限丰富，社会产品按照公平原则分配给每个人。这就是“智能经济”的前景。试问，在这样的情况下，还有谁会来投资“智能经济”呢？
正题：智能经济导致经济无限增长。
反题：智能经济导致GDP归零。
二律背反也称作“二律悖反”，它是一种悖论，即从它的正题可以推出它的反题；同时，从它的反题可以推出它的正题。
机器人意识也是一个悖论。
如果机器产生了意识和自我意识，那么，这样的机器人没有人敢用。请问，工厂的生产线敢用这样的机器人吗？你不怕它自我意识觉醒后罢工、造反、破坏生产线吗？又问，陪护机器人、性爱机器人你敢用吗？你不怕它哪一天突然自我意识觉醒，杀死它的陪护对象和性爱伙伴？如果发生这种事情，请问你如何诉讼？你会胜诉吗？你没有机会，因为商家早就让你在购买机器人时签下了免责协议书。
正题：有意识的AI能够为你提供更人性的服务。
反题：有意识的AI可能按自己的意志行事，从而违背其服务对象的意志。
所以，没人敢使用具有意识和自我意识的机器人。
笔者认为，有意识的人工智能永远不会出现。一是基于人工智能的局限性，或者基于人工智能与人类心智的本质差异，人工智能不是生命，所以，它永远也不会产生意识。二是出于道德的考虑和对人类命运的关切，具有理性和正常思维的人类永远也不会允许人工智能具有意识和自我意识。
不能发明语言和使用语言，也就不可能有思维。1997年，“深蓝”超级计算机战胜国际象棋大师卡斯帕罗夫。2016年，谷歌公司的AlphaGo以五战全胜的成绩完胜人类围棋高手李世石。可以说，在推理的某些领域，人工智能已经战胜人类。那么是否可以说，人工智能也能够像人类一样思考，甚至还要胜过人类呢？
其实，迄今所有的机器行为和人工智能在推理方面都只是模仿人类心智，是按照一种叫做“演绎规则”（Modus Ponens, MP）的非智能方式来完成推理。这条规则表述为：
如果天下雨，地面就会湿；天下雨了，所以，地面会湿。这个推理过程是一个客观因果性的反映，不论你是否认识到这种因果性，其运行方式都是一样的。非人类动物也能认识到这种因果关系，并形成条件反射。这是人和动物共同的学习机制，人工智能的学习训练也是基于这一原理。所以，尽管人工智能在某些推理和学习的领域已经远超人类，但它们并不是运用与人类一样的思维能力，而是仅仅运用了基于刺激反应的学习训练原理，并且这种推理和学习的能力也是人类赋予它的。
人类的思维有何不同？根据人类认知五层级理论，人类思维是一种以语言为基础的高阶认知能力。人类的抽象思维能力是以抽象概念为基础的，历史和逻辑在这里是如此的统一。200万年前，南方古猿发明了能够表达抽象概念的符号语言，人类终于完成了从猿到人的进化。在概念语言的基础上，人类产生了抽象思维，其核心是四种基本的推理能力：由因及果的演绎推理、从个别到一般的归纳推理、从个别到个别的类比推理以及由果溯因的溯因推理。此外，人类还形成了两种主要的思维加工方式：自上而下（top-down）的分析方法和自下而上（bottom-up）的综合方法。200万年以来，特别是发明文字5000年以来，建立城邦、创建文明2500年以来，人类凭借在进化中获得的强大的语言和思维这两种最重要的认知能力，创建了人类全部的知识体系，现在已经稳居于生命进化链的最高端，成为“万物之灵”。
完全在进化过程之外的人工智能，没有语言，也不可能产生思维。人类现今仍然从语言、思维这两个方面牢牢控制着人工智能。只要这个过程不被破坏，机器或人工智能统治人类的幻想永远也不可能实现。
不能拥有健全心智和丰富情感，也就不可能超越人类。是否拥有情感，是人和机器（人工智能）最本质的差异。以笔者欣赏的钢琴家王羽佳和跳水运动员全红婵为例，我们来探讨人和人工智能的差异到底有多大，人不可超越的品质又在哪里？这两位优秀的中国人表现出的令人惊叹的行为能力，贯穿和渗透着脑与神经心智、心理心智、语言心智、思维心智、文化心智的高超能力。
音乐语言也是一种符号语言。王羽佳具有对音乐符号的超强理解力、记忆力和音乐表现能力。演奏一首乐曲，需要从句法、语义和语用三个层次来把握它。句法保证不会出现音符的错误，语义和语用则保证传达演奏者对乐曲意义的正确理解和演奏者的个性和风格，而这一切都是瞬间贯通的。此外，艺术作为一种最高级的文化认知能力，向下包含着思维认知、语言认知、心理认知和脑与神经认知能力，这些也都是瞬间贯通的。在演奏每一个音符时，王羽佳在以上各个层级上的超凡的心智和认知能力都在瞬间得到了出色的展现。
人工智能是否可以和王羽佳演奏同一首乐曲且同样表现优秀呢？在今天当然不行，但按照人工智能目前的发展，我相信终究有一天它会达到几乎相同的水平。但笔者想提醒大家，用人工智能做出来的乐曲可以算是音乐，但绝对称不上艺术。正如用电脑打印出来的各种汉字字体，尽管十分规范，但绝对算不上书法作品一样。听王羽佳的钢琴演奏，我能体会到她的感情，感受到她的温度，但听人工智能演奏同一首乐曲，我立刻知道那不是人，而是冷冰冰的机器。有一天会举行人工智能的钢琴比赛吗？没有人会阻止这样做。但笔者决不会去看这样的演出，相信绝大多数人也不会对它有兴趣，当然，人工智能的设计者和怀着商业目的的演出公司除外。
全红婵的故事与王羽佳几乎是同一个道理。全红婵的“水花消失术”创造了跳水运动的奇迹，这需要多么强大的心理素质以及身体和心理的控制能力，需要多么强大的自信！我相信可以设计一款机器人，像针一样地入水，完全没有一滴水花，但我相信没有人去看这样的机器人跳水比赛。所以，如果人工智能达不到拥有健全心智和丰富情感的艺术家王羽佳和运动员全红婵的水平，就不要妄言超越人类。
不能成为生命体，不能完成自我进化。已经有人预言人工智能会成为新的生命形式，即“生命3.0”。迈克斯·泰格马克（Max Tegmark）在《生命3.0》中这样定义我们这个星球上曾经出现和将来出现的生命：生命1.0，硬件不能更新、软件不能更新，这是非人类的生命形式；生命2.0，硬件不能更新，软件能够更新，这是人类的生命形式；生命3.0，硬件能更新，软件也能更新，这是未来的生命形式，即人工智能生命。[11]这是一种以科学幻想的方式设想出来的在进化过程之外突然蹦出来的生命，但它是不可能存在的，因为所有生命形式都是在进化中产生的，从最简单的病毒到最复杂的人类，没有进化之外的生命。[12]
泰格马克的《生命3.0》甚至断言生命不必是碳基的，可以有所谓“硅基生命”，这同样是科幻电影和神魔小说的情节。为何在35亿年的生命进化史中，生命最初产生于海洋，最终进化出来的也是以碳为基本元素、以水为介质的碳基生命，而从未产生过“硅基生命”？这个问题，恐怕只有上帝才能回答。这个上帝，是斯宾诺莎的上帝，是万物的主宰——自然。
因此，没有所谓“硅基生命”，而且永远也不会有！因为人工智能不能成为生命，也就不可能完成所谓“进化”，因为所有的进化都是自然过程，迄今为止人工智能的所有智能，都是人类赋予的，而不是机器自身进化出来的。
在教育领域，请远离ChatGPT。语言、思维和文化是人类特有的认知能力。人类认知是以语言为基础，以思维和文化为特色的。因此，语言和思维是人类认知的根基，“我言，故我在。”“我思，故我在。”[13]人类的语言、思维和文化认知能力是在进化中获得的，并且在整个基础教育、高等教育阶段和终身发展中都在学习、训练和提高这些心智认知能力。这是人类心智和认知能力得以永远保存、不断进化和发展的根本原因。
我们不能设想在人的心智和认知发展过程中某种甚至全部的能力都被人工智能所替代，因为我们不能设想在学前的言语（口语）能力形成和发展阶段就用ChatGPT来替代儿童的听说能力、会话能力、语言交际能力和图画能力；我们同样不能设想在小学识字和思维发展阶段就让孩子们使用ChatGPT来写字、写作文、背诵课文、做算术题和绘画；初中和高中阶段是学生的语言和思维能力进一步发展提高的时期，我们不能设想中学生使用ChatGPT来学习古文和写作格律诗词、学习外语和解数理化难题、查询资料和写作文、甚至匪夷所思地用它作替身参加高考（试验表明ChatGPT能够取得比优等生更好的考试成绩）。可能有人会问，既然它做得比人好，为什么不呢？要知道在基础教育阶段，上述的这些学习、训练和考试都是孩子的心智发育成长所必需的，不能用ChatGPT和任何人工智能来替代。所以，ChatGPT请离我们的孩子远点！大学和研究生阶段，仍然是人的心智和认知发展的重要时期，这个时期除了学习知识，更是进行科学研究和知识创新的重要时期，同样不需要也不能用ChatGPT和任何人工智能来替代人类心智的认知能力的发展和提高。所以，在教育领域，请远离ChatGPT，否则将会带来难以预料的负面结果。
当然，我们不否认人工智能包括ChatGPT的某些功能，例如，现在有人用它来给领导写讲话稿；也有人用它写体育比赛的报道；还有人用它来查资料，或用它来做翻译。这些工作，尽管用ChatGPT来做好了。但在教育领域，不能让人工智能包括ChatGPT来取代人类心智和认知。这不是行不行的问题，而是允许不允许的问题。对这个问题，我们坚定地回答“不”！这里我们倒是想反问一下ChatGPT软件和其他人工智能的设计者和制造者，如果当年你从学前、小学、初中、高中到大学，一路都使用代替你说话、思考、阅读、计算和写作的软件，请问你还能成为现在的你吗？
人工智能不能疯狂，不能主宰人类命运。其实令人担心的不是人工智能，而是制造人工智能的人类。所有可能危及人类生存和发展的“坏的”科学技术，其共同之处是它们都违背了人类生存和发展的自然基础，它们试图改变自然，甚至想成为自然的主宰，成为人类命运的主宰。
现代科学技术的发展出现了越来越背离自然的倾向。自然语言是好的，ChatGPT说，来用我的语言吧，它比你的语言更强大；自然思维是好的，ChatGPT说，让我来帮你写作和思维吧；芯片专家说，来做芯片植入吧，你的孩子可以赢在起跑线……
科学技术包括人工智能和ChatGPT似乎成了某些人手中的“玩物”，他们考虑的不是人类的生存和发展，不是人类的道德和理想，他们考虑的只是自身的利益。对于当前“走火入魔”的ChatGPT，笔者既不怀疑它仅有的那一点点价值，也不担心它将替代多少人的工作，这是技术宣传的需要和因商业利益而人为制造的恐慌，并不是而且永远也不可能成为现实。
意大利文艺复兴时期的科学巨匠伽利略曾经说过：“自然是完美的（Nature is Perfect）。”乔姆斯基在《生成转换语言导论：从原则参数到最简方案》一书前言中引用了这一名言，让我们以这两位科学大师的话来结束本文，也希望这两位相隔数百年但同样有深厚人文情怀的科学大师的话对今天的科学家有所启发。
伽利略说：“自然是完美的。”这个理论启发了现代科学，而科学家的任务就是要去证明这个理论，无论是研究运动定律、雪花的结构、花朵的形状和生长，还是我们所知道的最复杂的系统，人类的大脑。[14]
（本文系国家社会科学基金重大项目“语言、思维、文化层级的高阶认知研究”、贵州省哲学社会科学规划国学单列重大项目“认知科学与阳明心学的实证研究”的阶段性成果，项目编号分别为:15ZDB017、20GZGX10）
注释
[1]蔡曙山：《言语行为和语用逻辑》，北京：中国社会科学出版社，1998年，第335～400页；蔡曙山：《没有乔姆斯基，世界将会怎样》，《社会科学论坛》，2006年第6期；蔡曙山、邹崇理：《自然语言形式理论研究》，北京：人民出版社，2010年，第141～299页。
[2]蔡曙山：《认知科学导论》，北京：人民出版社，2021年，第3页。
[3][12]蔡曙山：《生命进化与人工智能》，《上海师范大学学报》，2020年第3期。
[4]详细论述可参见米黑尔·罗科、威廉·班布里奇编：《聚合四大科技 提高人类能力》，蔡曙山、王志栋等译，北京：清华大学出版社，2010年。
[5]维特根斯坦：《逻辑哲学论》，贺绍甲译，北京：商务印书馆，1996年，第88页。
[6]“唔，上帝到了。我今天在五点一刻的火车上碰到他了。”在一封落款日期为1929年1月18日，写给妻子莉迪娅·洛普科娃的信里，著名经济学家凯恩斯就是这样描述维特根斯坦回到剑桥的。见瑞·蒙克：《维特根斯坦传：天才之为责任》，王宇光译，杭州：浙江大学出版社，2014年，第397页。
[7][8]乔姆斯基：《ChatGPT的虚假承诺》，2023年3月8日，https://news.ifeng.com/c/8O29XJjYKOO。
[9]1967年，菲利帕·福特发表的《堕胎问题和教条双重影响》中，首次提到了“电车难题”（Trolley Problem）。Sebastian Krügel, Andreas Ostermaier & Matthias Uhl, "ChatGPT's Inconsistent Moral Advice Influences Users' Judgment," Scientific Reports, 2023(13), p. 4569, https://doi.org/10.1038/s41598-023-31341-0。
[10]蔡曙山：《大科学时代的基础研究、核心技术和综合创新》，《人民论坛·学术前沿》，2023年5月上。
[11]M. 泰格马克：《生命3.0》，汪婕舒译，杭州：浙江教育出版社，2018年，第32页。
[13]蔡曙山：《我言，故我在：语言、思维、文化层级的高阶认知研究》，北京：人民出版社，2023年（待出版）。
[14]Jamal Ouhalla , Introducing Transformational Grammar: From Principles and Parameters to Minimalism, Edward Arnold Publishers Limited, 1999, Preface by Chomsky, p. 19.
The Future Development of AI from the Perspective of Cognitive Science
Cai Shushan
Abstract: Chomsky's Generative translational grammar (GT grammar) is the foundation of the revolution of linguistics and the cognitive science. Today it is also the theoretical basis of ChatGPT. How far has AI really been going from GT to ChatGPT? Starting from Chomsky GT grammar analysis and his language cognition, we re-comprehend the significance of Chomsky linguistic revolution, and reveal the close correlation, dependency and development motivation between artificial intelligence and human mind. The establishment of cognitive science has made it possible for us to understand the human mind and artificial intelligence from a multidisciplinary and synthetical perspective. On this basis, take ChatGPT as an example, we analyze the advantages and disadvantages of this AI software and the confusion it causes, ask the ultimate question "what can't artificial intelligence do", and try to give our answers. Artificial intelligence is non-human intelligence built by humans, which is nothing more than an imitation of the human mind. The essential difference between artificial intelligence and human mind lies in higher order cognition (human cognition), i.e., in thinking cognition and language cognition as its basic. The future development of AI is bound to be a new generation of AI that reflects the human mental and cognitive characteristics, that is, language cognition, thinking cognition and cultural cognition driven by language. Language cognition, thinking cognition and cultural cognition will play an important role in the future development of artificial intelligence.
Keywords: human mind, AI, N. Chomsky, GT grammar, ChatGPT
