【摘要】人工智能是引领未来的战略性技术，主要发达国家都将其作为提升国家竞争力、维护国家安全、占据前沿科技主导权的重大战略。中国推动人工智能发展战略，是中国作为全球性大国提升综合实力和顺应国际形势发展的产物。然而，人工智能又是一种颠覆性的技术，我们要对人工智能的负面影响和冲击充分预估，构筑人工智能多层次治理体系。人工智能治理既是其技术和运用发展到一定阶段的必然结果，又是对其研究、开发、生产和运用过程中可能会出现的公共安全、道德伦理等问题进行协调、处理、监管和规范的过程。中国作为人工智能大国，应抓住未来发展机遇，积极参与国际人工智能规则和标准设计，为人工智能全球治理贡献中国智慧，以“善治”谋求人工智能的“善智”而造福于人类。
【关键词】人工智能 道德伦理 规则标准 全球治理
【中图分类号】TP18 【文献标识码】A
【DOI】10.16619/j.cnki.rmltxsqy.2017.20.006
前言
人工智能是人类科技文明发展到一定阶段的产物，是研究、开发用于模拟、延伸和扩展人类智能的技术科学。作为一种快速发展的并具有划时代意义的高科技，其广泛应用必将对现代人类社会发展产生全面而又深刻的影响。人工智能将极大地促进全要素生产率提升，据埃森哲发布的报告预测，2035年人工智能预期可以为12个发达经济体带来两倍的经济增长速度，中国的经济增长率将从6.3%提速至7.9%。①军事上，人工智能和机器人有可能大规模投入未来战场，或将改变战争模式乃至国际军事格局。人工智能在极大地解放生产力的同时，也将深刻地改变人类的生产方式、工作方式和生活方式。然而，作为一种颠覆性的技术，我们要对人工智能的负面影响和冲击充分预估，理性思考人工智能的安全治理问题。实际上，一些科学家、有识之士以及社会各界也开始认识到这一问题的重要性。一般来说，安全性评估和审慎监管原则适合于任何一项科学技术革命，但由于人类利益动机、预估不足、外部性和道德风险等问题的存在，往往导致治理滞后、治理赤字和治理失灵等现象，如工业革命以来走过的“先污染，后治理”的教训以及温室气体排放与气候谈判的曲折等，都是这一问题的表现。人工智能由于其技术复杂性、扩展性、不可控性和不可预知性，可能更需要做好风险预估和防范，引导其健康、有序、安全发展，以规范人工智能研发、生产和消费秩序，通过对人工智能的“善治”谋求人工智能造福于人类的“善智”。②
人工智能引发的治理问题
人类社会需要面对人工智能正在发生的问题，也需要预估、评判和预防未来人工智能发展可能引发的问题。应该说，从问题的严重性来讲，人们最担心的是未来人工智能对人类生存的挑战。从科学家霍金的“人类最后的文明”到人工智能预测家库兹韦尔全面超越人类智慧的“奇点”论，都表现为对人工智能未来的“超人类性”、“另人类性”以及“非可控性”的担忧。在霍金看来，人工智能的广泛使用具有极高的风险性，一方面人工智能带来的收益是巨大的，人类或许可以借助这一强大的工具，减少工业化对自然的伤害。但是“我们不确定我们是会被智能无限地帮助，还是被无限地边缘化，甚至毁灭”，人工智能的崛起可能是人类文明的终结。因此，人类必须建立有效机制尽早识别威胁所在，防止人工智能对人类带来的威胁进一步上升。③
