【摘要】人工智能时代人与机器交融增多，识别人心便变得重要了。这其实为人类看待自己提供了新的机会，认识人类自身从来都是最重要的哲学乃至实践问题。从心理学的角度定义一个人是人可以承袭多种理论观点，如人具有类似尴尬、敬畏等高级情绪或者人具有能动与体验的能力，抑或是人能展现出能力和温暖的形象。人工智能对人的定义相对简单，即能通过图灵测试。智能时代的飞速发展让不久的将来通过图灵测试的人工智能体以可以想见的程度迅速增多。因此，在智能时代，能力、属性或是价值，何者可能成为人作为人最重要的评判标准，人工智能体又应该在这三者上表现出何种努力，由于与人工智能体的互动或社会形成，人类又将如何重新审视自己作为人的定义性特征，这是我们意欲探讨的问题。
【关键词】人工智能 心智知觉 读心 能动 体验
【中图分类号】TP311/B84 【文献标识码】A
【DOI】10.16619/j.cnki.rmltxsqy.2020.01.003
识别人心亦为读心（mind reading），抑或心智知觉（mind perception）。探求人心之过程亦为回答何以为人之过程。当然你可以说，并非人才有“心”，动物亦有“心”。但此处之“心”非心脏之“心”，乃心智之“心”。因此，识别人心即识别人之为人，盖因心智以人最为完备，且知觉到某种实体（entity）有“心”，即是将其部分拟人化之过程（许丽颖、喻丰、邬家骅、韩婷婷、赵靓，2017）。人工智能席卷之时代，机器是否有“人心”，何种技术手段能够探究人心等诸问题在未被详细回答之前，便已然被计算机科学家诉诸实践。通过新浪微博我们可以自动化地识别出微博主的细微心理状态，如压力、自杀倾向（Xue; Li; Wu; Feng; Zhao & Yu, 2019）。甚至，我们还可以通过这些自我生成的内容来自动判别微博用户的高级心理过程，如幸福（Zhao; Yu; Jing; Hu; Luo & Peng, 2019）、道德（Zhang & Yu, 2018）。
仔细思考上述机器读心的过程，你便会发现逻辑颇为不顺。这些方法首先是基于人的行为和判断，以人的真实行为和表达出的心理过程作为因变量，以研究者自我提出的特征作为自变量来建立二者之间的关系。实际上，人工智能的机器学习背后是大量的人工标注。比如要识别人的压力，就必须要有大量的测试集，大量普通人对每条微博的压力程度进行评定。虽然这里有他评或者自评，但是在训练之时，人工标注其实是对人心识别是否正确的判断标准。按照这种逻辑，机器学习并非非常客观，它还是带着太多的心理学中自我报告（self-report）方法的缺陷。现有人工智能的底层方法就是这种深度学习，而其在逻辑上是一种基于过去经验的方法。基于过去的方法便局限于过去，其基本逻辑和早期华生（John B. Waston）的行为主义心理学观点无异，大量刺激和反应之间形成的联结便是机器学习的过程。这种方式缺乏认知的作用，缺乏行为主体的意图、思考、判断，也就是说，从这种观点来看，基于深度学习的人工智能几乎没有成为强人工智能的可能。
现有方法能够判别人类的细微和特定心理状态，但是这种方法能够判别人心是否存在吗？似乎并不能，这就是原因。如果这条微博是机器自动发出，那么我们可以采用现成方法判断发出这条微博者是否抑郁、是否有压力、是否幸福等，但我们能判断出这条微博是否是由一个有“心”之人发出？这条微博是因何而发？这些问题的回答涉及对何以为人的回答。只有回答了人之为人的问题，方能真正探究技术如何探查人心之问题。
何以为人
一元理论。人工智能从业者都知道著名的图灵测试（Turing Test）。图灵测试是一条典型的一元标准，即通过便是人，而不通过则非人。这条简单的原则也许被最多地在人工智能领域提及。直至今日，除专门研究人心问题的心理学领域，这条古老的原则依然被认为是人工智能检测的金科玉律。按照奥卡姆剃刀原则，图灵测试非常完美。它简单地告诉我们，在不知道是人还是机器人的条件下，经过数轮交互，人无法分辨对方是人还是机器人的行为，那么机器人便以假乱真地可以被看作具有人心。当然图灵测试的这种标准值得商榷，比如塞尔（John R. Searle）的“中文屋论证”就能很简单地反驳图灵测试。如果把一个完全不懂中文的人关在一个黑屋子里，他拥有一个可以应答任何中文问题的字典，即面对任何中文问题，他通过字典就可以给出任何中文回答，虽然他完全不理解中文。这个人并不懂中文，不懂中文的语法规则，更不可能理解中文问答中的意义。但是他能够知道何种输入可以给出何种输出。这个人如果是一台机器，那么它便可以轻而易举地通过图灵测试。对塞尔的反驳和对图灵测试的辩护也很多，只是塞尔提出人和机器的区别只在于一个一元的标准，即意向性（intentionality）。
心理学也有自己的一元理论，用一条原则判断人和其他实体（如动物、机器等）的区别。低人化（Infra-humanization）理论认为，人和非人的区别就在于人可以体会到特定的情绪，这种情绪叫做次级情绪（secondary emotion），比如人可以体会到爱、怀旧、尴尬，而动物不能、机器不能（Leyens; Paladino; Rodriguez-Torres; Vaes; Demoulin; Rodriguez-Perez & Gaunt, 2000）。但是动物和人都可以体会到所谓的初级情绪，喜、怒、哀、惧、悲、恶。当人类不想将外群体当作人时，会知觉不到他们的次级情绪。机器更加不谈次级情绪，甚至人知觉不到它的所有情绪。如若人能够知觉到人工智能的次级情绪，你发现家里的扫地机器人在扫得并不干净时表现出尴尬，那么这个机器人按照低人化理论可以被知觉为人。当然这里从图灵测试的机器本体论问题换成了认识论问题，换成了人类的知觉，且无论机器和动物是否真的能具有体会和表达次级情绪的能力。至少达尔文（Charles R. Darwin）觉得动物是可以表达出类似爱、尴尬等次级情绪的（Keltner, 2009）。不过，在人类知觉层面，动物是否真的能表达并不关键，反正被我们仇视的外群体成员是无法被知觉到的。
二元理论。对应道德理论（Dyadic Morality Theory）是代表性的人心二元理论（Schein & Gray, 2018）。必须说明的是对应道德理论是典型的道德一元论，即它认为道德只有一个心理实质，即伤害。但是在解释人性上，它是一个二元理论，即认为人性实际上是两个维度，即所谓能动（agency）和体验（experience）。能动是道德主体（moral agent）的道德地位体现，能动者常常被人知觉为行为的发出者，因此能动高者被认为需负道德责任；体验是道德客体（moral patient）的道德地位体现，体验者常常被人知觉为行为的接受者，因此体验高者被认为具有道德义务。人性不过是能被人知觉为体验或者能动而已。人即能动、体验兼而有之；上帝仅能被知觉为能动，并无体验；机器能动感知不及上帝，但也并无体验；婴儿、动物并无能动，但有体验。那么何为体验，即有饥饿、害怕、愉悦、愤怒、欲求、人格、意识、骄傲、尴尬和喜悦的能力；何为能动，即有自我控制、道德、记忆、情绪再认、计划、交流和思考的能力。
不是仅有对应道德理论一种关于人心的二元理论，实际上，二元理论是非常丰富的。比如非人化（Dehumanization）理论（Haslam, 2016）。非人化理论探讨的就是人性何为，其与动物和机器有何区别。这一理论认为人心的两个维度为人类本性（human nature）与人类特异性（human uniqueness）（Haslam, 2006）。人类特异性是那些使人区别于动物的特征，如高贵、礼貌、道德、理性、成熟等；而人类本性则是那些使人区别于非动物性事物（如机器）的特征，如情感、温暖、开放、能动、深刻等。这对应着动物缺少教养、粗鄙、缺乏自我约束、冲动、孩子气，也对应着机器情感麻木、冰冷、思维僵化、被动以及肤浅。因此人类本性和人类特异性这两个维度也就是人心的基本维度。
其实，人类本性类似能动，而人类特异性类似体验，虽不完全对应，但人皆颇有此感。心理学家普遍对人心的两个维度有共识，这和社会认知的基本维度观相对应。也就是说，在日常给别人贴标签时，我们通常在这两个维度上进行判断，这也是日常识别人心的方式。只不过，心理学对如何命名这两类则存在分歧。称作道德与能力者有之、养育与支配者有之、社会与智力者有之、交流与能动者有之、热情与能力者亦有之。究其实质，这两个基本维度代表的意思基本类似，第一个维度基本是朝向他人的，第二个维度基本是朝向自己的。或者我们可以说一个是主动的，另一个是被动的。
三元理论。心理生活概念（conceptions of mental life）理论对上述对应道德理论的维度重新进行了划分（Weisman, Dweck & Markman, 2017）。它对人性能力进行了重新筛选和大样本调查，发现人类心理生活概念即人心，应分为三个维度，即身体（body）、心智（mind）、情感（heart）。身体维度包括这样一些能力：感受饥饿、体验疼痛、感受劳累、体验恐惧、体验愉悦、进行计算、有自由意志、有意识、感觉安全、有欲望、感受恶心、感受平静、感到生气、有意图、能知觉到自我；心智维度包括这样一些能力：记住东西、再认他人、感觉温度、与他人交流、看到东西、感知深度、朝向目标努力、听到声音、作出选择、推理、闻到气味；情感维度包括这样一些能力：感受尴尬、体验自豪、感觉爱、体验愧疚、有信念、感觉不受尊重、感到抑郁、理解他人感受、体验快乐、有人格、感受高兴、分辨对错、进行自我克制、有思维。此理论不再从行为的发出者和接受者角度来考虑，而是脱开人际原因，直接用个体的身体、心智和情感来进行划分，虽内在逻辑上还稍有重合之处，但是这三个维度已然可以解释不少人心现象。物体，如订书机在三个维度上均无；机器人没有情感和身体，只有心智；甲壳虫有部分的身体和心智，但是没有情感。
心理生活概念理论是一个完整的自下而上的数据驱动理论，它只着眼于个体。另一个完全从人工智能角度出发探究人性的心智知觉维度理论也自下而上地发现了三种维度（Malle, 2019），即情感、认知和现实交互（reality interaction）。情感维度包括积极社会情感和消极情感两个子维度，积极社会情感中有四个条目，分别为：感觉高兴、爱某个人、感觉愉快、体验疼痛；消极情感中也有四个条目：感觉疼痛、感觉有压力、体验恐惧、感觉劳累。认知维度也包括道德认知和社会认知两个子维度，道德认知有四个条目，分别为：反对不道德行为、能分清对错、坚持道德价值观、赞扬道德行为；社会认知也是四个条目：推断一个人的想法、计划未来、理解他人的想法、设定目标。现实交互就是四个条目：语言沟通、看和倾听世界、遵从指导来学习、自主活动。
无论人心有几种维度，如上理论都向我们刻画了人之为人的核心。大略上我们可以从中看出人心的核心是什么，是何种属性或曰何种能力。
因何为人
能力观。综合各种理论，可以发现，抛开维度，至少有两种解释人性的方式。一种是能力观，一种是属性观。所谓能力观是指某种实体（entity）如果在本质上具备了某些能力，那么我们便可以将其视作人。这是一种本质主义论调，即能够区分之物有其自有的本质（essence），是这个本质决定了这一存在。譬如非人化理论，人之为人，是因为人具有高贵、礼貌、道德、理性、成熟以及情感、温暖、开放、能动、深刻等特征。又比如低人化理论，人之为人，是因为人具有所谓的次级情绪。
属性观。所谓属性观，即指某种实体被知觉为具有某种特征，且不论其本质上是否真的具有这种特征。相对于能力观，属性观更是一种认识论上的观点。因为对人心本身便是知觉认识，所以只要能够知觉他心，实际上实体是否真的具有这种特征本质来说并不重要。譬如对应道德理论认为人心具有能动和体验两个维度。这是两个知觉性的维度，并非说人之为人必须有能动或者体验，而是说人之为人，必须让人觉得有能动或者体验的感觉。心理生活概念理论也是一种属性观理论。
价值观。在所有人性观理论中都隐含道德的作用，但是均未提及道德作为一个主要维度来起作用。刻板印象内容模型（Stereotype Content Model）将人心知觉分为能力与温暖，某种程度上类似能动与体验（Fiske; Cuddy & Glick, 2007）。能力与温暖并未涉及道德，可研究却发现，在对他人形成印象的时候，道德是认识人心的第一途径。研究发现，在印象形成时，道德比一般特质（如：聪明、有逻辑、有条理、有创造力、有音乐细胞、有运动能力等）更重要；而那些非社会性的美德（如：勇气、公平、原则、诚实等）又比社会性的美德（如：随和、热情、合群、风趣等）更重要（Goodwin; Piazza & Rozin, 2014）。不仅如此，在面孔识别研究中，对面孔判断的首要影响源便是道德因素，即可信赖程度（trustworthy）（Todorov, Pakrashi & Oosterhof, 2009）。这表明，道德是人类认识自己、认识他人、认识世界、甚至是人类创造意义的首要来源（Janoff-Bulman, 2013）。弗洛伦斯·克拉克宏（Florence Kluckhohn）和弗雷德·斯特罗德贝克（Fred Strodtbeck）试图找出人类关心的一些基本问题，他们认为，人类在所有时间、所有地点都会被有限的几个问题而困扰，而这有限的几个基本问题中，首要的便是人性问题、道德问题。诺布（Joshua Knobe）认为，人在作任何判断，哪怕是最基本的意图判断时，他都会受到道德因素的影响，因此究其本质而言，可以说人是一个道德家（moralist）（Knobe, 2010）。这种道德因素之所以如此重要，是因为道德是进化的心理机制，是我们在漫长的适应过程中生而带来的。对一个人来说，道德可能是其自我认同（identity）的核心。如果问一个人，假设你的邻居在车祸中受了重伤，然后接受了换脑手术，术后醒来他可能有这样几种表现：没有什么变化；失去知觉：能看见、能听见、能有各种感觉，但是却不能分辨和识别物体；失去欲望：变得没有任何欲求了；失去记忆：不记得事故前的任何东西了；失去道德：变得没有良知、无法分辨善恶、好坏（Strohminger & Nichols, 2014）。接着研究者问人们，在每种情况下你觉得你的邻居在多大程度上已经不是他了？结果发现，在失去美德的情况下，人们觉得一个人最有可能失去其自我认同，这也告诉我们，所谓的“真我”（true self），其核心便是道德。
所以，如果人工智能要达到人类的智能，它有以上三种方案可供选择，即超越能力、展示属性与承担责任。所谓超越能力，是指人工智能具备近似或者超过人类的能力，而这种具备或者超越是全方位的，不能在某一个维度上超过，而在另一维度上不及，这是一种木桶原理的超越。所谓展示属性，是指人工智能表现出类似人类的属性，这也是一种木桶原理的展示，即在所有维度上均展示出类似人的属性。第三种方案即承担责任，即人工智能在某种程度上承担道德责任，至少在现在为止，其承担责任之事相当复杂（喻丰、许丽颖，2018）。
将为何人
人工智能存在一种异化之可能。即其本是人类创造之物，但强人工智能会反过来钳制人类本身。随着社会的发展和科技的进步，毋庸置疑的是人类将面临前所未有的巨大挑战，这些挑战在历史上从未出现，人类将面临千年未有之大变局。未来社会人工智能将飞速发展，机器人实际上是人所创造的客体，但在未来社会它可能会同人这个本体相脱离，成为主体的存在，而且反客为主，反转过来束缚、支配、乃至压抑人类。我们这些占据食物链顶端的人类会在不久的将来面临前所未有的危机和挑战，比如算法开始替代人类作出选择，一些原来只有人类能做的工作将会被机器人所取代。有趣的是，即使没有人工智能之异化，仅仅是弱人工智能渗入人类生活，也极大改变了人类生活的样貌。那么基于人类将面临的挑战和重大社会变革，人类自身所需要的能力也一定会发展巨大的变化。未来哪些能力将变得重要，而哪些能力将变得无足轻重，哪些能力始终会是人类的标志性能力，而哪些能力又是能被机器人所替代的，这便是人类讨论人之为人需要厘清之关键。
我们综合了以上诸理论，通过大样本调查和多个实验去探究在未来社会的人心维度变化问题，结合之前所有人性理论的维度和特征来考察，我们发现了一些初步结论。譬如，我们发现这样一些能力，民众判断其在未来社会将变得更加重要：创造力、思考的能力、自我控制的能力、有思维的能力、有学习的能力、思想有深度、有想象力、进行自我克制的能力、有人格、有自由意志、道德的能力、有自我约束的能力、有灵活思维的能力、有意识、坚持道德价值观的能力、能觉知到自我、有控制情绪的能力、有信念、分辨对错的能力、逻辑思考的能力、有求知欲、有主动行为的能力、体验快乐的能力、感觉爱的能力、有文化、沟通的能力、审美的能力、有自省的能力、朝向目标努力的能力、反对不道德行为的能力、赞扬道德行为的能力等。我们也发现，这样一些能力在未来被民众判断为并不重要：感受饥饿的能力、进行计算的能力、有尊卑观念、体验疼痛的能力、感受劳累的能力、感受恶心的能力、体验恐惧的能力、感受尴尬的能力、闻到气味的能力、体验恐惧的能力、感到生气的能力、遵从指导学习的能力、感觉温度的能力、感到抑郁的能力、感受愤怒的能力、听到声音的能力、感受到不尊重的能力、记住东西的能力、记忆的能力、看到东西的能力、再认他人的能力、感受压力的能力、体验愧疚的能力等。稍加归纳，便可以发现，在未来更加重要的能力是道德、理性、审美、自我意识、自我控制等；在未来变得更加不重要的能力是一般认知能力、身体能力、消极情感等。很容易理解道德、理性、审美、自控等高级加工能力在日后会变得重要，也很容易理解一般认知能力因为人工智能本身就要强于我们，所以其变得并不重要，而人类情感变得并不重要了，这个较为反直觉，但要注意的是，这里的情绪均为消极情绪，消极情绪在进化上是让人活下来的情绪，而积极情绪才是之后让人活得更好的情绪。
如果换成维度观来看，我们则发现，当面临人工智能威胁时，人类会觉得体验稍稍变得重要了一些，但是能动大幅变得不那么重要。身体、情感维度都没有太大变化，但是心智维度的重要性大幅度降低。这是个非常有意思的现象，人类面对未来的人工智能如何看待自己的人心维度，普遍意义上来说，将某些维度看得重要是较为合理的，但是结果却是，对比起什么维度重要，我们更加关心自己人性的哪些方面不重要，而不重要的就是人工智能本身就强于我们的那些维度，比如心智维度、能动维度。这有些类似阿Q，我们以把别人比我们强的部分看得不重要来抵御内心里的威胁，而很少去知觉要提升我们比别人强的部分。当然，如果不只看粗略的维度，而看细致的特征，我们就会发现，那些让人活（survive）的能力变得并不重要了，如一般认知能力、身体能力、消极情绪等；而那些让人活得更好的能力则变得更加重要了，如道德、理性、审美等。
参考文献
许丽颖、喻丰、邬家骅、韩婷婷、赵靓，2017，《拟人化：从“它”到“他”》，《心理科学进展》，第25卷11期，第 1942～1954页。
喻丰、许丽颖，2018，《如何做出道德的人工智能体？》，《心理学的视角》，《全球传媒学刊》，第5卷第4期，第24～42页。
Goodwin, G. P.; Piazza, J. & Rozin, P., 2014, "Moral character predominates in person perception and evaluation", Journal of personality and social psychology, 106(1), pp. 148-168.
Fiske, S. T.; Cuddy, A. J. & Glick, P., 2007, "Universal dimensions of social cognition: Warmth and competence", Trends in Cognitive Sciences, 11, pp. 77–83.
Haslam, N., 2006, "Dehumanization: An integrative review", Personality and Social Psychology Review, 10, pp. 252-264.
Janoff-Bulman, R., 2013, "Meaning and morality: A natural coupling", in K. D. Markman; T. Proulx & M. J. Lindberg, (eds), The psychology of meaning, Washington, D. C.: American Psychological Association, pp. 191-213.
Keltner, D., 2009, Born to be good: The science of a meaningful life, W. W. Norton & Company.
Knobe, J., 2010, "Person as scientist, person as moralist", Behavioral and Brain Sciences, 33, pp. 315-329.
Leyens, J. P.; Paladino, P. M.; Rodriguez-Torres, R.; Vaes, J.; Demoulin, S.; Rodriguez-Perez, A. & Gaunt, R., 2000, "The emotional side of prejudice: The attribution of secondary emotions to ingroups and outgroups", Personality and Social Psychology Review, 4(2), pp. 186-197.
Malle, B. F., 2019, "How many dimensions of mind perception really are there?", in A. K. Goel; C. M. Seifert & C. Freksa, (eds), Proceedings of the 41st Annual Meeting of the Cognitive Science Society, Montreal, QB: Cognitive Science Society, pp. 2268-2274.
Schein, C. & Gray, K., 2018, "The theory of dyadic morality: Reinventing moral judgment by redefining harm", Personality and Social Psychology Review, 22(1), pp. 32-70.
Strohminger, N. & Nichols, S., 2014, "The essential moral self", Cognition, 131, pp. 159-171.
Todorov, A.; Pakrashi, M. & Oosterhof, N. N., 2009, "Evaluating faces on trustworthiness after minimal time exposure", Social Cognition, 27, pp. 813–833.
Weisman, K.; Dweck, C. S. & Markman, E. M., 2017, "Rethinking people's conceptions of mental life", Proceedings of the National Academy of Sciences, 114(43), pp. 11374-11379.
Xue, Y.; Li, Q.; Wu, T.; Feng, L.; Zhao, L. & Yu, F., 2019, "Incorporating stress status in suicide detection through microblog", Computer System Science and Engineering, 34(2), pp. 65-78.
Zhang, Y. & Yu, F., 2018, "Which socio-economic indicators influence collective morality? Big Data analysis on online Chinese social media", Emerging Markets Finance and Trade, 54(4), pp. 792-800.
Zhao, Y.; Yu, F.; Jing, B.; Hu, X.; Luo, A. & Peng, K., 2019, "An analysis of well-being determinants at the city level in China Using Big Data", Social Indicator Research, 143(3), pp. 973-994.
责 编／周于琬
On AI and Human Beings
Yu Feng
Abstract: In the era of AI, people and machine become more and more integrated, so it is important to read people's mind. In fact, AI provides a new opportunity for human beings to look at themselves. It is always the most important philosophical and practical issue to understand human beings themselves. From the psychological perspective, a person can inherit a variety of theoretical points of view, e.g., people have advanced emotions such as embarrassment and awe, or people have initiative and are able to experience, or people can show an image of capability and warmth. The definition of humans by AI is relatively simple, that is, if it can pass the Turing test. With the rapid development of the intelligent age, the number of AI agents passing Turing test in the near future will increase greatly. Therefore, in the era of intelligence, which one may become the most important criterion for identifying a human being, ability, attribute or value? And what kind of efforts should be made by the AI agents on these three aspects? How will human beings look at their defining characteristics due to their interaction with the AI agents or the formation of a new society? These are the issues this article intends to explore.
Keywords: AI, mental perception, mind reading, initiative, experience
喻丰，武汉大学哲学学院心理学系教授、博导，中国心理学会积极心理学专委会（筹）主任、中国社会心理学会理事。研究方向为道德心理学、人工智能的社会心理。主要著作有《美德心理学》等。
