人工智能技术发展：构建“好的人工智能社会”是全人类面临的严峻挑战
人们期待通过技术“保护我们以摆脱现实生活的悲惨险境”时，也一直在关注技术发展可能带给人类的风险。人类社会从传统社会迈向现代社会是一个质的飞跃，自工业革命伊始，技术一直被视作这一宏大社会进程的重要变革性力量，但从伦理学角度看，技术也一直被视作一种忧患之源。
人类发展技术的历史也一直纠结在“技术控”与“技术失控”的二元逻辑主线之中。人们在享受技术便利的同时，有可能失去了对复杂技术系统的控制，进而对人类生存带来灾难。“技术的反向控制与适应”的主题也一直存在于各个文化体系和知识形式之中。从传统社会思想家对“技术危险性”的警示到工业革命之初社会科学家对“启蒙黑暗面”的关切；从近现代戏剧与文学作品（狄更斯、托尔斯泰、卡夫卡等）对“技术两面性”的大众化诠释和传播，到技术研究领域对 “技术敌托邦”的探索，再到近代社会科学的政策分析，所有关切都指向技术所带来的意想不到的社会结果，“技术的潜在功能与社会功能紊乱”问题一直是人类发展的梦魇。而人工智能可能自然演化具备自觉意识并对人类发动攻击则是技术忧虑在当代公众意识中的折射。
人们曾一度认为，人类对自己制造的东西最为了解，并能达到对“制造物”的牢固控制，然而科技发展的速度往往超乎人类想象。起初，机器人只是作为一种人类生活工具出现在科幻小说中的。20世纪中期，当艾萨克·阿西莫夫出版《我，机器人》的时候，机器人世界还是想象中的世界，在科幻作家最初设想中，机器人以照顾人类为己任。然而随着科学技术的进步，人们开始对机器人技术是否会超出人类控制范围产生了怀疑。当今，人类生活中已经充斥着大量机器人，并且越来越智能化，科学的进步总是超乎人们预测。于是，人们开始设想高度发展的人工智能未来，当智能机器人充斥于我们生活那一天，是否会不再满足于为人类服务，而像人类宣战，并统治世界？机器与人的关系是否有可能会从“人”与“物”的关系转化成“人”与“人”的关系呢？
当前人工智能已经从科学实验阶段进入商业应用阶段，智能机器执行任务的复杂度正在以指数速度增长，人工智能发展正在进入爆发前的临界点；人工智能进化中的递归式自我改善有可能会导致最终的“智能爆炸”。人工智能飞速进步所展示的人类创造出一种全新生命形式的可能性，不仅将标志着进化的突破，而且也可能给人类物种的生存构成潜在威胁。人工智能技术失控可能源自作为技术创造者的工程师的疏忽大意和无意识，也可能源于机器人的某个深度学习瞬间的豁然领悟。在电影《西部世界》中智能机器人开始不再听命于工程师们，开始伤害和自我伤害，并最终摆脱了人类的控制，开始反抗屠杀人类。
构建“好的人工智能社会（Good AI Society）”是全人类面临的严峻挑战。随着人工智能在生产活动和社会活动中的作用不再被忽略，人工智能甚至有可能让人类失去智慧能动者的唯一地位。传统社会中仅仅针对人的产业制度和生产规则面临重组的挑战，以适应非人行动者参与的需要；“让生活更美好”的人类愿景正面临如何构建“好的人工智能社会”的紧迫挑战。
“善治”与“善智”：发展“负责任”的人工智能，走向技术与社会的“良性互构”
在技术发展中，人类应当避免“近视症”的困扰，预先规划、做好顶层设计，仅仅和过于强调技术发展的“独特能力”，反而容易落入“能力陷阱”。人工智能时代不仅仅意味着一场技术与产业革命，对全球价值链结构、全球产业竞争格局产生深刻影响，更是一场社会、文化、价值与思维等领域的全景式整体性变革。技术发展应当服务于人本身。人工智能发展要坚持“善治”与“善智”的统一，人工智能社会要走向“网络空间”与“现实空间”的深度融合，应当尽快搭建起“行动者网络”和“利益相关者”就人工智能问题开展相关讨论与合作的新平台。历史证明，人类面临重大的技术风险往往有助于推动形成社会共识；而好的社会共识则是历史进步的强大推动力。
随着新的机器自动生产者的加入，会导致设计者、使用者、监管者之间责任的模糊和缺失，精细分工下的“有组织不负责任”亟需得到解决。传统技术伦理学是把伦理道德看作技术活动之外的一种规范力量，对技术后果进行伦理反思和批判；“后经验转向”时代的技术伦理规约强调规范性和建构性的统一，主张“端口前移”：从负面伦理后果的揭批推进到正面伦理价值的“预防式置入”；在技术设计中“嵌入”道德要素，通过恰当的技术设计规范和制约“创造者”的行为，实现“把技术关进伦理的笼子里”的目标。
“技术与社会如何和谐共处的主题”一直是技术社会学的重要论域。作为跨越技术决定论与技术建构论二元对立的整合性纲领，技术与社会的“相互建构论”已经成为当代技术社会学研究的主导性范式。面对不确定性的世界尝试提供确定性的理论框架是危险的，面对人工时代的来临，我们必须跨越学术、社会、政治、国家和行业的界限开展多方合作，让所有个体、群体和区域都能参与到当前的转型过程，并从中受益。
大数据背景下的人工智能具有“强加性的巨大功能”，以人工智能为代表的第四次工业革命隐藏着巨大挑战、蕴含着空前机遇。经济长期滞胀、就业压力剧增、社会不平等发展、“好的人工智能社会”如何构建等都在考验人类的协作、创新与智慧。中国是世界上“现实中最大的发展中国家”“世界上第二大经济体”“未来的最强大国家”，世界对第四次工业革命中的“中国角色”寄予厚望。在当前阶段，中国面临经济发展新常态、供给侧改革、传统企业转型、制造业升级等问题。不论是政府、企业还是个人，深入了解第四次工业革命的本质内涵和系统意义，全面评估人工智能带给社会的机遇与挑战必将是行稳致远、角逐未来的重要砝码。
（作者为清华大学社会科学学院党委副书记、教授、博导,社会创新与风险管理中心主任）
【注：本文系国家社科基金“‘后经验转向’时代的技术伦理规约机制及模式研究”（项目编号：13BZX024）的阶段性成果】
【参考文献】
①张成岗：《技术与现代性研究》，北京：中国社会科学出版社，2013年。
②[美]兰登·温纳著，杨海燕译：《自主性技术》，北京：北京大学出版社，2014年。
③[美]科德·戴维斯、道格·帕特森著，赵亮、王健译：《大数据伦理：平衡风险与创新》，沈阳：东北大学出版社，2016年。
责编/宋睿宸 美编/杨玲玲
