结语：“强人工智能”与人类繁殖伦理前瞻
如上所述，没进入量子力学之前，所有的人造机器，包括AlphaGo，必然只是在某些方面具备高于人类的能力。这本来就是人造机器的目的，即人为了自身的内在价值实现同时不断改进人类的生存处境而作出的努力。在现有条件下，人造机器不会失控，如果有所谓“失控”的话，这与我们对飞机、高铁、大坝、核能之类的失控基本上属于同类性质。
AlphaGo的确有隐喻意义上的“学习”能力，自行调整累积迭代的能力，但说到底仍是一种工具能力，是“弱人工智能”。这种“弱人工智能”很可能通过图灵测试，但这与人的意向性（intentionality）及主体感受内容（qualia）不相干。
当然，基于人类理性和道德能力的限度，我们有理由相信，即便是弱人工智能，在其应用中也应当秉持审慎的人文理性态度。
不少比较理性的研究者提出，由于人工智能的发展呈“加速回报”的态势，人类既有的道德资源和伦理框架或许难以覆盖技术飞跃变革提出的新议题。他们提出应当发展一种叫做机器伦理（Machine ethics）的道德态度，加利福尼亚大学伯克利分校计算机学教授拉塞尔（StuartRussell）在美国时代杂志发表观点认为，避免机器的不当使用威胁人类的生存，就应该考虑如何把人类价值变成可编程的代码，把人类的道德转化为人工智能语言。他认为，在机器人领域，“道德哲学将是一个非常重要的产业部门”。
归根结底，这些诉求跟当前的一系列技术推进所遭遇的伦理困境并无实质上的差异，就像我们已经提出的在虚拟现实、扩展现实领域应当引起重视的“大宪章”问题一样，指向的都是如何避免少数人掌控技术以更便捷更隐蔽的手段损害人的自由与尊严的问题。其中需要的关键要素有两点：第一，如何更准确更敏锐地分析科技推进中的结构性变革，以技术手段防范技术黑箱操作，这需要技术的发展始终在一个社会开放空间中进行，使技术不被少数人的权力和资本所垄断；第二，如何在技术推进中注入人文理性，这需要哲学家、艺术家以及社会科学各界在技术变革中积极参与，及时发现技术当中隐含的道德议题、社会议题，向科学界、技术界和企业界发出他们观察慎思后的最强音，以起到建立一个人文伦理防火墙的作用。
此外，我们需要着重提出的是，弱人工智能和强人工智能之间，鉴于其生发机理性质的全然不同，在应对的伦理规则方面，也必然需要在认清本有的界限的基础上分别制定。
如果让我们对“强人工智能”的可能实现做一点伦理前瞻的话，那么，基于上述分析，“强人工智能”实现以后的这种造物就不能被当做纯粹的工具了。这时，它们已经具有自主意识，具有与人类对等的人格结构，今日人类成员所拥有的权利地位、道德地位、社会尊严等等，他们就应该平等地拥有。
与我们平起平坐的具有独立人格的“机器人”，还是机器吗？不是了，这才是真正的“奇点”和“智能大爆发”。但是，有人会认为，最为关键的问题是，这样的“强人工智能”主体，不就可以与人类对抗，毁灭人类了吗？
要理解这种担忧的实质，就需要我们以价值理性和科学理性出发进行自我反思。所谓的人类毁灭恐惧与人类身份认同焦虑，实际上是把基于个体经验形成的一己情怀，等价于有效的价值判断了。我们主动设计、制造了某种新型主体的存在，但并不对他们的个体特质进行设计，不就等于以新的途径繁殖了我们的后代吗？我们千万不要以一时的人文情怀来遮掩甚至拒斥可普遍化的人文理性，将人类引入迷途。
因此，如果真有强人工智能实现的一天，最合理的态度就是：承认他们是我们自己进化了的后代，人类进入了一种改变了繁殖方式的发展新阶段。后代取代前辈继续生存，实现更好的发展，这不是人类的灾难，而是人类的进化飞跃到了一个新阶段。退一万步讲，假如“后人类”真的联合起来向“前人类”造反并将前辈“征服”，那也不过就像以往发生过的征服一样，一批人征服了另一批人或新人征服了旧人，而不是人类的末日。
至于以量子计算为基础的人工智能到底会给我们的生活带来何种冲击，恐怕我们的想象力暂时还是鞭长莫及。
注释
【1】http://www.thinkwithgoogle.co.uk/quarterly/innovation/transgressive-man.html.
【2】Crevier, Daniel, AI: The Tumultuous Search for Artificial Intelligence, NewYork, NY: BasicBooks, 1993, p.115. Moravec explains, "Their initialpromises to DARPA had been much too optimistic. Of course, what they deliveredstopped considerably short of that. But they felt they couldn't in their nextproposal promise less than in the first one, so they promised more."
【3】https://www.newscientist.com/blogs/onepercent/2012/06/bot-with-boyish-personality-wi.html?DCMP=OTC-rss&nsref=online-news.
【4】TheSingularity Is Near: When Humans Transcend Biology是Raymond Kurzweil于2005年出版的关于未来学的书籍。中文译著已由机械工业出版社于2011年10月1日出版发行，译著书名为“奇点临近”。
【5】［英］尼克·波斯特洛姆：《超级智能：路线图、危险性与应对策略》，北京：中信出版股份有限公司，2015年，Kindle位置：328/5236。
【6】http://sports.sina.com.cn/go/2016-01-30/doc-ifxnzanh0397466.shtml.
【7】Wired,"Google's Go Victory Is Just a Glimpse of How Powerful AI Will Be, "http://www.wired.com/2016/01/googles-go-victory-is-just-a-glimpse-of-how-powerful-ai-will-be/,2016.1.29.
【8】［英］尼克·波斯特洛姆：《超级智能：路线图、危险性与应对策略》，Kindle位置：518/5236。
【9】［英］尼克·波斯特洛姆：《超级智能：路线图、危险性与应对策略》，Kindle位置：1199/5236。
【10】One can imaginesuch technology outsmarting financial markets, out-inventing human researchers,out-manipulating human leaders, and developing weapons we cannot evenunderstand. Whereas the short-term impact of AI depends on who controls it, thelong-term impact depends on whether it can be controlled at all.见http://www.huffingtonpost.com/stephen-hawking/artificial-intelligence_b_5174265.html.
【11】http://www.huffingtonpost.com/daniel-faggella/artificial-intelligence-r_b_9344088.html.
【12】［英］尼克·波斯特洛姆：《超级智能：路线图、危险性与应对策略》，Kindle位置：2416/5236。
【13】Frankenstein or The Modern Prometheus，又译作《弗兰肯斯坦》，后世有部分学者认为这部小说可视为科幻小说或恐怖小说的始祖。
【14】见翟振明：《虚拟现实比人工智能更具颠覆性》，《高科技与产业化》，2015年11月。
【15】［英］尼克·波斯特洛姆：《超级智能：路线图、危险性与应对策略》，kindle版位置：685/5236。
【16】［英］尼克·波斯特洛姆：《超级智能：路线图、危险性与应对策略》，kindle版位置：867/5236。
【17】翟振明：《有无之间——虚拟实在的哲学探险》，北京大学出版社，2007年。（Zhai, Philip, Get real: A philosophical adventure invirtual reality，Rowman& Littlefield, 1998.）
【18】【19】详见翟振明、李丰：《心智哲学中的整一性投射谬误与物理主义困境》，《哲学研究》，2015年06期。
【20】见于：Dick J. Bierman and Stephen Whitmarsh, "Consciousness andQuantum Physics: Empirical Research on the Subjective Reduction of the StateVector," in Jack A. Tuszynski (Ed), The Emerging Physics ofConsciousness, 2006, pp. 27-48.C. M. H. Nunn et. al.,"Collapse of aQuantum Field May Affect Brain Function," Journal ofConsciousness Studies, 1994, 1（1）, pp.127-139.
【21】Anderson, Michael,and Susan Leigh Anderson, "Machine ethics: Creating an ethical intelligentagent," AI Magazine 28.4 , 2007, p.15.
【22】Stuart Russell,"Moral Philosophy Will Become Part of the Tech Industry,"http://time.com/4026723/stuart-russell-will-ai-overtake-humans/.
【23】哲学家丹尼尔·丹尼特在其著作《意识的解释》（Consciousness Explained）里错误地认为，人也不过是一台有灵魂的机器而已，为什么我们认为：“人可以有智能，而普通机器就不能”呢？有的哲学家认为如果弱人工智能是可实现的，那么强人工智能也是可实现的。比如西蒙·布莱克本（SimonBlackburn）在其哲学入门教材Think里说道，一个人的看起来是“智能”的行动并不能真正说明这个人就真的是智能的。我永远不可能知道另一个人是否真的像我一样是智能的，还是说她／他仅仅是看起来是智能的。布莱克本认为这个“他心问题”是一个主观认定的问题。本文引入量子力学解释方向，就是试图回答意识和智能的认定问题的可能途径的问题。量子力学中的遥距纠缠，很可能就是解决“他心问题”的有效途径，最后并不需要诉诸“主观认定”。这种认定的实现，也许才是真正的“奇点来临”。
How Will "Strong Artificial Intelligence" Change the World?
——Prospects of the Technological Progress and Application Ethics of Artificial Intelligence
Zhai Zhenming Peng Xiaoyun
Abstract: After years of silence, artificial intelligence has become a heated topic of debate again recently. For software based on the "neural network" architecture, their progress in terms of the machine learning ability not only make people feel new and fresh, but also cause a lot of them to worry and fear. This is because the "learning" ability was originally thought to be a unique human ability which the machine could not acquire. Now the boundary between machine and humans seems to have been removed. Among all the concerns about artificial intelligence, the most important one is the ethics behind the application of artificial intelligence and the technical limitations about the value implanting. In fact, the application-related ethical issue resulting from the leap-forward technological development of artificial intelligence or the so-called "smart revolution" is not new, it is just the aggregation of a series of old problems. It will challenge our past experience, yet it is not completely "subversive". No matter how effectively artificial intelligence could imitate human brain's "neural network" or how much it is like people, as long as there is no breakthrough development in the ultimate explanation of the phenomenon of human mind, there will be a lack of the necessary premise for the question about whether artificial intelligence is gaining on human intelligence.
Keywords: weak artificial intelligence, strong artificial intelligence, quantum mechanics, physicalism, ethical dilemma, value rationality
作者简介：
翟振明，中山大学哲学系教授，中山大学人机互联实验室创始人、主任。研究方向为虚拟现实哲学与技术、伦理学、现象学、心智哲学。主要著作有《Get Real: A Philosophical Adventure in Virtual Reality》《整一性投射谬误与心智哲学中的物理主义困境》等。彭晓芸，中山大学哲学系博士研究生。
