【摘要】随着近年来人工智能技术的发展，在人机融合智能中“向善/向恶”问题越来越受到社会的关注。本文阐述了对人机融合智能时代人心问题的几点思考，首先简要介绍人机及其融合智能，并对人机融合智能的有关研究背景进行了阐述；进而讨论了当前人机智能融合时代所面临的种种困难和瓶颈；最后分析了人机智能融合时代的人心善恶问题及其影响。
【关键词】人工智能 人机融合智能 人心
【中图分类号】TP18 【文献标识码】A
【DOI】10.16619/j.cnki.rmltxsqy.2020.01.004
人机融合智能的起源及未来发展方向
智能，包括人工智能，都是复杂系统，其中的许多事情不是都能用逻辑思维解释清楚的，还有大量的非线性、非逻辑成分，可解释性、终身学习、动态表征、强弱推理都需要类比，但类比的机制机理远远不是单纯用科学技术所能解决了的，尤其涉及情感、情境、虚体等，更是如此。试图单纯用数学，尤其是用现代不完备的数学解决智能或人工智能的核心问题，无异于缘木求鱼、画饼充饥、水中捞月，如同拿着木棒、石头造飞机和火箭一般，原因很简单：定性的真东西尚都在遥遥无期中探索，定量的只能是自动化吧！
人、机、环境系统之间的相互作用产生了智能，这不仅是一个科学问题，也包含非科学部分的研究（如人文艺术、哲学宗教）。其中，人是复杂系统，机是相对简单的系统，环境的涨落变化非常大，所以我们研究的人机环境系统既有“确定性”，又有“随机性”，是“复杂的巨系统”。钱学森认为，针对“复杂的巨系统”，人类目前还没有找到解决的一般原理和方法，人机融合智能系统理论可能就是一种有益的尝试。然而，人机中的时空、逻辑机制不一致是引发智能融合困难的关键，人机融合智能的瓶颈还是如何实现有理、有利、有节的节奏和韵律。譬如，在人机融合过程中有些问题将会变得越来越突出：如何进行有效的人机功能分配？人机何时何处以何方式进行何种分配？当人、机速度不匹配时，以人速为准较好还是以机速为准较好？人机怎样融合学习？人机怎样融合理解？人机怎样融合决策？人机怎样融合推理？人机怎样融合感知？人机怎样融合意图？还有数据、信息、知识、智能、智慧之间究竟是如何相互作用并转化的？《易经》析动静，《道德经》论是非，《孙子兵法》谈虚实，维特根斯坦证有无，布尔代数说0、1，图灵测试言相似，冯·诺依曼共存算，这些概念之间是什么关系？在数字逻辑中，与或非及其之外的关系存在吗？在非数字逻辑中，如何定义类比程度的计算？以人为本的思路还对吗？如果不对，以啥为本？如果对，会不会割裂人、物（机）、环境之间的共在关系？如何表征既是又不是？既应又不应？既能又不能？既要又不要？既肯定又否定？既……又不……呢？如何表征宏观、中观的叠加和纠缠态？如何在人机融合中产生并培养容忍、让步、妥协等机制机理呢？
当代人工智能由最初的完全人工编译的机器自动化发展到了人工预编译的机器学习，接下来的发展可能是通过人机融合智能的方法来实现机器认知，最终实现机器觉醒。
现今人机融合智能面对的困难
现今人机融合智能的瓶颈之一是没有物理上的定理或定律出现，即界定什么是人机融合智能。要研究清楚这个问题，首先要对智能的本质进行探究。根本上说机器智能、人工智能是人类智能概念化、系统化、程序化了的反映，而碎片化的知识+碎片化的逻辑构成了各种纷繁复杂着的人类智能，碎片化的知识+碎片化的逻辑+隐/显性的伦理道德法律规定构成了人类的智慧，人的真正智能需要不同领域不同角度逻辑的组合、混合、融合，所以真实的智能是缝补联结后的百纳衣，而不是漂亮靓丽的制成品。
经过人工智能的几次高潮低谷之后，理性的权威以及形式化方法背后的乐观主义招致了大量质疑。符号、联结、行为技术不仅带来了进步，也带来了人们对智能领域更多的困惑，同时，人工智能、基因工程等变革性科技让人类似乎比历史上的任何一个时代都更可能给自己带来心理、伦理和思维上的挑战。用理性寻找真理不再重要，存在的意义才是最核心的问题。启蒙主义用理性代替上帝，结果却是一切价值的崩溃，存在越来越走向虚无——海德格尔用《存在与时间》试图解答存在本质的问题，胡塞尔从前期《逻辑研究》转向后期《大观念》的思路；同时，分析哲学领袖维特根斯坦也从前期《逻辑哲学论》转向后期《哲学研究》的思路，两次转变都不约而同地去掉了“逻辑”，分别走向了“观念”和“哲学”，这也许不是巧合和偶然。
“逻辑”主要涉及判断和推理，它属于较高层次的意识活动，而要讲清楚判断理论，还要对感觉、知觉等较低层次的意识活动进行研究，尤其是需要对物理性的数据、心理性的信息知识等的一多弥聚表征机理进行深入研究，“名可名非常名”中的“名”主要是讲这种动态的表征、命名、定义、范畴化。而“道可道非常道”中的“道”反映的则是事实与价值、事物与关系的混合，既包括客观（being）也包括主观（should），既涉及逻辑和数学的普遍有效性，也涵盖了心理规律偶然性的真理，是逻辑与非逻辑的集合体，情感也许是一种自己逻辑与他人非逻辑的复合体。
老子的道极其自然，比如，他说“智慧出，有大伪”，其意思是人越追求智慧，人为的东西就越多，自以为是的成分就越大。这就需要把平常对待世界的看法颠倒过来，让事物来看我们，如同昆虫的复眼一般。塞尚说过：好的画家不是从外面而是从里面看世界。有智慧的人也经常用和日常相反的方法看世界的，譬如，塞翁失马里的塞翁、井冈山上的星星之火们等，我们不应该只是用科学的方法看世界，智能及其哲学应该使人真正向自然开放，使自然中的人机环境系统以它自有的形态向我们说话、展示。
智能的伦理问题。人工智能或数字化能否“向善”的问题表面上是人机交互或融合的问题，人和机器配合给世界演双簧看，实质上还是人性的问题。如果把科学看成是物真，是客观存在的being，那么艺术就是人善，是主观想象的should，两者融合就是美，用有限去表征无限。善就是初心，人之初的心，也是人曾活着的意义和价值，当然人性也有弱点，个人不时会在善与伪善中间徘徊，但对整个人类而言，善就是应该（should）的主流和方向，否则，后果会不言而喻吧！
从源头上看，智能与伦理本是同根生，即“是非之心，智也”，从发展的角度看，能够明辨是非也是个人及群体绵延不断的主要倚仗了。只有科技的真，没有艺术的善，人们常常会在各个领域的边缘紧张焦虑，如物理性原子下的蛋（弹）该怎样处理？生理性基因编的辑（忌）应如何对待？数理性智能控的制（治）怎样把握？管理性不足失的分（纷）如何弥补？……这一切，都会涉及到自然人与自己创造的物质、文明世界怎样进行交互的问题，最后又需要自己不得不回答的问题，如人与人之间的爱和情会被取代吗？美颜反映了人性的弱和优点吗？
人机融合的关键是人的机化+机的人化之平衡，其本质是人、机、环境系统各种资源的优化配置与适宜调度，涉及人力资源、物理装备资源、时空管理资源、各种环境资源等的一多分有。其中的一个难点和瓶颈是——感觉不等于知觉，生理测量值（心电、脑电、皮肤电等）不一定反映心理情绪值（记忆、理解、认知等），更不要说思维/意识/智能值等，如人脸识别与人心理解的非线性。人机融合的态、势、感、知之间既不是简单的时序关系，也不是复杂的无序关系，而是一种事实与价值的主客观融合关系。
也许，从道德角度分析，宗教不仅是一种迷信，而且是扬善去恶一种途径和关系，关系本身就有人赋予的意义部分，科技是中性的，只有功能而没有能力，这是因为能力是有人性的，功能是没有人性的，如何实现这两者的结合呢？这就需要考虑科技所不能单独解决的部分——善的问题，例如，针对技术的不确定，人在设计算法时，要提前考虑数字世界之外存在着的现实世界，适时地融入相应的基本前提和规范，以使人们面对不可能完全掌控的未来时，不过分地担忧焦虑，重启内在的认知原力，进而在更大程度上把握可以掌控的部分。也许每个人身体上都有一种原力，有些可以发现世界（事实），有些可以发明世界（价值）。每件事物都有一种待开发的原力，有些可以被发现，有些可以被发明，但这需要在一定的情境下。
准确地说，智能不仅包含自然科学和工程技术，还涉及许多社会科学的领域，如人文、哲学、宗教乃至艺术等等，这从世界上最早的兵书之一《孙子兵法》的英文名字可见一斑：The Art of War。这说明：好的智能有时候不仅是技术还是艺术。美军2016年发布的《自主性》研究报告中指出，AI可用于对部队和指挥官进行告警及提供行动方案的建议，但还远远没有达到能够代替人类制定决策的程度。这个观点是比较客观、务实、有效的。看待人机智能化发展的这个难题，不同视角会得出不同的结论。从新技术落地发展的角度看，当前发展人机融合智能面临着三大瓶颈问题：缺大小实在样本数据、缺算法人因验证手段、缺复合专业融合。三大瓶颈问题，说到底是缺乏研究的认识论及方法论——人都说不清楚，指望机器说清楚，在短期内是很难做到的，所以人机融合的研究确实必要：人解决“做正确的事”，机解决“正确地做事”。人机融合智能的本质就是把事实与价值统一起来：人负责价值，而机处理事实。人机融合智能也许可以破解“休谟之问”：Being与Should、自然与自觉的一致性。曾有人说，在计算开始的地方，理解便终结了。而人机结合在一起的深度态势感知就可以实现可理解的计算+算计。
以人为本的思想，在初级的人机融合智能中是可以理解的，机器的主要角色是辅助性的，但随着机器各种功能的不断提高，尤其是隐约出现类人能力的迹象时，“以人为本”的观念可能会被发生变化，我们从《道德经》中的启示可见一斑：一、要把道的存在本身和人为构造区分开来；二、为了克服以人为中心就需要避免人为努力。这是由于要克服人为努力，又需要另外一种人为。老子主要是要克服人道主义，这种人道主义以儒家为代表，突出人的地位和作用，天在人道主义里是被遮蔽的。他认为：人并不重要，自然中存在的道才是中心。人只是自然中的一分子，只是物的一种而已，无限广阔的宇宙里存在着无穷无尽的变化，只有与之随动的人才能更好地发挥主观、客观能动性吧！例如，从文艺复兴到工业革命再到后来，每隔一段时间，世界情境就会更新一次。在西方，每一个阶段都会产生新的对世界的看法。
人文艺术之所以比科学技术容易产生颠覆原创思想，主要是追求主观价值和意义，而不是单纯的客观事实存在。人文艺术哲学宗教给人提供了更广阔的想象空间，正可谓人们看见什么并不重要，重要的是人们如何诠释看见的事物。
情感的本质就是价值的判断。价值的量化非常困难，这需要把价值的本质和计算的本质都搞清楚，才可能做价值计算。有人认为“绝对价值不好搞，能计算相对价值也行”，其实，相对价值计算更难，各种因素都在变，连坐标系都在变。
价值、意义本质上应该是随主体、客体与环境相互作用的变化而改变的，比如，有可能一条信息上一秒有价值，下一秒就完全没有价值了，也可能下下一秒又有更大的价值了，事物之间关系改变很快，价值因此在过程中的变化也很大。价值的计算怎么通过算法实现，理论都还没搞清楚。
人机认知不一致性问题。好的人机融合智能主要解决机器对人的助智（辅助分析、决策）和学伴（个性化、弹性成长），可以通过知几、趣时、变通实现不同数据、信息、知识的往返跳跃、匹配对接、循证查询，即不断使得多种数据/信息/知识进行动态演化组合以达到任务要求。其中的抽象提炼，举一反三就是类比、归纳、演绎混合机制使然，其中类比起着非常重要的作用，相比归纳、演绎两种推理而言，类比具有鲜明的穿透效应，它可以穿透物质与意识、主观与客观、表象与本质、真实与虚拟、感性与理性、伦理与道德、线性与非线性、确定与不确定等之间的隔阂，让休谟之问不再成为问题，让莱布尼兹的理性演算更为感性，让维特根斯坦的逻辑与非逻辑融合的越发完美，让人、物（机）、环境之间的协调绵绵不断。
人机智能难于融合的主要原因就在于时空和认知的不一致性，人处理的信息与知识能够变异，其表征的事物/事实千变万化，一直具有相对性，机器处理的数据标识缺乏这种相对变化性。
在西方伦理学界一般认为伦理学的基本问题有两个基准：一个是我们应该如何行动？另一个是我们应该成为什么样的人？前者以行为为中心，属于规范伦理学研究范畴，也是休谟之问的应该（should）问题；后者以行为者为中心，属于美德伦理学研究范畴，也是休谟之问的being问题。这与智能生成的基本问题：“事实与价值能否相符”是一致的。智能的生成将涉及到主观目的与行为动机，并与情境中的客观事实变化密切相关。产生智能不仅需要形式化的计算，更需要意识性的类比。掌握事实性与价值性的因果关系，深研人机融合智能，开展深度态势感知，将是智能研究的重大突破口之一。
人机之间的适时干预要求：干预的既不能早也不能晚，既不超前也不滞后，干预早了，往往会造成双方的措手不及，干预晚了，时过“时迁”，为时已晚。所以如何实现人机之间结合任务要求的适时、适当干预将是未来人机一致性研究的难点和关键。
区块链就是把人机群体智能之间的事实与价值关系统一起来的一种工具，优点是可以通过信用/智能合约手段扬善抑恶、安全/高效整合各种资源；缺点是这是一个乌托邦，除了明链，许多暗链会并行不悖，如（一开始就）预置隐患，还有真实的虚假问题（某人有某种学位，但是别人给他写的答辩论文，而答辩委员们又不太了解他的研究内容，造成事实上的学位，价值上的假学位），所以单纯数字上的区块链很可能只有有/无，没有阴/阳和虚/实。
人机融合智能的难点——人心研究
近来，许多学者和普通人都提出未来人工智能的问题。这是因为现在的人工智能还远远未达到大家的期望，现在大家看到的AI在某种意义上都是自动化或者是高级自动化，那智能化和自动化有什么区别呢？自动化是这样的，固定的输入及可期望的输出，如很多生产线都是自动化生产线，而智能化不是这样，输入可以固定也可以不固定，但是输出一定是非预期性的，绝大部分是非预期性，出乎意料的东西，这才是智能。什么叫做智能？有两个说法：第一个说法是孟子写过的“智者是非之心也”，是非之心就是“智”，你可以有意识，但不一定有智能，意识是无关乎是非的，而智能是要知道是非的，明白伦理的。根据我们的研究，伦理和智能应该是一回事。什么是伦理？在古希腊看来，伦是分类，分类的道理就是伦理；智能的本质也是分类——是非之心。第二个说法是，西方著名学者米塞斯曾认为：“所谓知识就是区别A与非A，智能也与之相似”。从这两个说法我们可以看出，东西方对智能的认识是类同的。中国传统文化倡导“仁义”。什么叫仁？孔子的仁就是一撇一捺——人，通假字通到那个人身上。什么叫义？义就是应该，孟子特别讲义和仗义。东方和西方智能的共同交界处可能就是这个义——应该（should）。
智能研究领域里面这几位东西方的先驱值得关注：第一是休谟，是智能哲学起源的根，休谟之问，即从事实里面能不能推导出价值观，这是休谟很重要的观点，笔者认为这可能是未来强人工智能的突破点，也是人机融合智能的关键之处。第二个是智能科学之源莱布尼兹，他第一次提出“普遍语言”和“理性演算”，在这两个词的基础上弗雷格提出了分析哲学里面的涵项一词。后来出现了布尔，也是从莱布尼兹的思想里面演化出布尔代数的，再后来是图灵、冯诺依曼都是从这延伸出来的……真正的技术起源是莱布尼兹。若还有点牵强的话，那么大家都知道图灵，实际上图灵的老师和朋友是维特根斯坦，这是一个很厉害的人，他是图灵的老师和朋友，他给了图灵很多好的智能和哲学思想，但是很多人很少知道他，这是非常遗憾的，也是人工智能界的遗憾，不提他是不行的，他人生里面两部书：第一部书是翻译成中文只有几十页的《逻辑哲学论》，这部书里面讲人的语言是撬开人和人、人和世界关系的切入点，规范化的社会语言是非常重要的，即按照规则语法一句话一句话地说可以理解世界；当他40多岁之后，他又回到剑桥，他写了一些手稿，后来他的一个女学生安斯康姆给他整理出版了第二本书叫做《哲学研究》，这本书也不厚，翻译成汉语一两百页，他否定了第一本书的思想，认为真正了解人类智能最重要的切入点是自然化和生活化的语言，如集贸市场人与人之间省略了主谓宾补的无语法的对话等。这两部书就是弱人工智能和强人工智能的哲学基础，第一部书有关逻辑哲学论，第二部书则涉及哲学研究，没有逻辑。真正强人工智能里面肯定不全是逻辑，仅有逻辑，那都是自动化，那都是规则化的东西，非理性的东西才是揪人心的东西，才是人类智慧的东西。总之，智能的哲学思辨起源于休谟、笛卡尔、弗雷格、维特根斯坦，从事实到价值，从生理到心理，从形式到意向，从逻辑到非逻辑；而智能的科学技术起源于莱布尼兹、布尔、图灵、冯·诺依曼，从文字到演算，从表征到推理，从指令到编码，从存储到计算……
东方思想这方面知识从《易经》开始，《易经》非常棒。但西方是不承认东方有哲学的，认为东方思想里面少逻辑性的东西，只有结果性的东西。最早是伏羲氏，他看到四季变化就开始写了《易经》；《易经》第二个作者是周文王——“文王拘而演周易”，文王把社会管理放在《易经》里面，除了自然以外放入了社会化管理；《易经》第三个作者是孔子，他把人与人之间的伦理放入了《易经》里面，《易经》就是这三个人接力集成所著。《易经》里面有三个词六个字是人类智慧的核心：第一个词叫“知几”，就是要看到事物发展的苗头、兆头；第二个词是“趣时”，即要及时抓住时机；第三个词是“变通”，即随机应变、因时而变。现在智能产品里面有这些东西吗？什么苗头，什么抓住时机，什么变通，你看看大部分都是自动化。第二本书是老子《道德经》，第一句话可能是智能里面最重要的一句话，“道可道非常道，名可名非常名”，老子的“名”里面涉及到智能里面的第一阶段——输入表征阶段，英语叫representation，就是表达、表示，一个事物有万种表征，一花一世界，一树一菩提，人能把一个事物表征为很多方面，但在知识图谱里面就非常糟糕，知识图谱的对象、属性、关系都是死的，那是一个标签的世界，什么时候出现活的知识图谱现在还看不到边界，因为现有的表征手段解决不了这个问题。老子《道德经》里面的“道”，包含了算法，算法不是单纯的数学计算方法，也包含了人非逻辑性的算计之法在里面，这是人特有的直觉性的东西。
“人智”之所以很难转成“机智”，是因为人脑不是电脑，“人智”主要是明辨是非，“机智”侧重于模式识别。只有在把一物与它物区分开来，才会对该物有了认知；只有把一个人的知识或信仰状态与他人的区分开来，才对一个人有了解。哲学上最难，也是最重要的任务之一，是明确世界的两类特征，即那些独立于任何观察者而存在的内在特征和那些相对于观察者或使用者而存在的外在特征。例如，一个物体有质量（无论对谁而言）与这个物体是浴缸（也可是水缸、饰缸、粮缸）。所以对智能态势感知系统研究的下一步工作，就是将其具体应用到某一或某些情境中，检验其有效性和可靠性。科学和数学中的陈述乃是描述性的being，因为它们描述了客观事实；而伦理学和美学中的陈述则是评价性的should，因为它们被用来表达感觉和态度、指导行为，而不是陈述事实。而人机融合智能中的深度态势感知就是试图让人、机、环境三者像石榴籽一样紧紧地抱在一起。
一个学科领域常常是以一个错误为基础发展起来的，但这并不必然是致命的，事实上许多领域都是以错误为基础的。比如，化学就是以炼金术为基础的，认知科学就是假设“脑是一个数字化的计算机”这个错误为基础的，同样，人工智能则是以逻辑推理这个错误为研究基础开始的。
人总是从无知开始的：知道的越多，知道的越少。人之智能中可程序性的一部分被转化成了人工智能，而人智中许多可陈述但不可程序的部分和更多不可陈述的部分远远没有被转化，尤其涉及到不可解释、不可学习的非逻辑部分（如情感的深层次、意识的随机变、思维的模糊化）。人，有一种更抽象的能力仍未被发现，这就是从非逻辑开始的智能系统。这种智能也可以从错误开始，但总能找到适合的正确；这种智能可以从混乱开始，但总能找到依稀的有序；这种智能可以从事实开始，但总能找到意向的价值……同时，这种智能也可以从正确开始，但总能找到各种的错误；这种智能也可以从有序开始，但总能找到各样的混乱；这种智能也可以从主观价值开始，但总能找到相关的客观事实。正可谓，数据价值化产生了信息，信息系统化形成了知识，知识逻辑化构成了智能，智能非逻辑化演化成了智慧，智慧落实到行为就表现为有意义……
结束语
有专家仔细研究机器学习后发现，机器学习就像一个理发的故事：老和尚让小和尚用南瓜练习理发，小和尚理完后常常下意识地把剪刀插在南瓜上，所以，对于可以实现人们期待的强智能而言，现有的数学、物理等形式化工具都需要改变，只有诞生出新的数学、物理、生理、心理、伦理、法理、管理……也许才可能衍生出新的人机融合智能形式。
世界是复杂的，复杂即不确定性，而人的认知往往是从一个确定的部分开始探索不确定性的，其中充满了试错和反思，进而完成从事实到价值的一跳。义，也就是应该、should机制，功不可没，也许人机融合智能里的“人心”就是“应该”吧，即人和其他智能体的内在驱动力，不断驱使数据、信息、知识、概念、意识、物质在不同时间空间中进行流转、变异，并在物理、心理、数理等业务时/空间中得到拓扑应用。
（本文系国家社科基金重大项目“智能革命与人类深度科技化前景的哲学研究”阶段性成果，项目批准号：17ZDA028）
参考文献
刘伟，2019，人机融合智能的现状与展望，《国家治理》，第4期。
Endsley, M. R., 1995, "Measurement of situation awareness in dynamic systems", Human Factors, 37(1), pp. 65-84.
Wickens, c. et al. 2003, "Attention-situation awareness (A-SA) model", NASA Aviation Safety Program Conference on Human Performance Modeling of Approach and Landing with Augmented Displays, p. 189.
Hooey, B. L.; Gore, B. F.; Wickens, C. D.; Scott-Nash, S.; Socash, C.; Salud, E. & Foyle, D. C., 2011, "Modeling pilot situation awareness", Human Modelling in Assisted Transportation, Springer, Milano, pp. 207-213.
刘伟，2017，《关于人机融合智能中深度态势感知问题的思考》，《山东科技大学学报》，第6期。
刘伟，2016，《关于人工智能若干重要问题的思考》，《人民论坛·学术前沿》，第4期。
刘伟，2019，《追问人工智能：从剑桥到北京》，北京：科学出版社。
刘伟，北京邮电大学岗位教授、中国信息与电子工程科技发展中心专家委员会特聘专家、国家自然科学基金评议专家。研究方向为人机融合智能、认知工程、人机环境系统工程、未来态势感知模式与行为分析/预测技术。主要著作有《人机交互技术与评估》《追问人工智能：从剑桥到北京》等。
责 编／赵鑫洋
The Human Mind in the Age of Man-Machine Integration Intelligence
Liu Wei
Abstract: With the development of AI technology in recent years, the "good or evil" issue arising in the human-computer integration intelligence has attracted more and more attention. This paper expounds some thoughts on the human mind issue in the era of human-computer integration intelligence. Firstly, it briefly introduces the human-computer concept and their integration intelligence, and expounds the research background of human-computer integration intelligence. Then it discusses all kinds of difficulties and bottlenecks in the era of human-computer integration intelligence. Finally, it analyzes the issue of "good or evil" human mind in the era of human-computer integration intelligence and their impacts.
Keywords: AI, human-machine fusion, human mind
