摘 要:当前，新一代人工智能技术在全球蓬勃兴起。对国际国内人工智能治理标志性事件开展系统研究，有助于规律性认识人工智能未来发展趋势，有助于深层次把握革命性技术对劳动就业、社会伦理、个人隐私带来的风险与冲击，有助于综合性了解各国政府、学术机构、社会组织、企业主体等社会各层面、各领域为确保人工智能安全、可靠、可控、可持续发展做出的努力，进而以更积极的态度研判大势、把握机遇、引领潮流，推动人工智能服务经济社会发展和民生福祉改善。
关键词:AI治理 伦理规范 算法治理 法治化 国际化
【中图分类号】TP18 【文献标识码】A
当前，新一代人工智能技术在全球蓬勃兴起，对国际国内人工智能治理标志性事件开展系统研究，有助于以更积极的态度研判大势、把握机遇、引领潮流，推动人工智能服务经济社会发展和民生福祉改善。为此，人民智库与旷视AI治理研究院第二次成立联合课题组，并邀请中国人工智能产业发展联盟（AIIA）为课题支持单位，以《新一代人工智能伦理规范》中提到的六条原则为遵循，依据理论价值、实践价值、新闻价值、研究价值等四个评价标准共同开展“2021年度全球十大人工智能治理事件”（以下简称“十大事件”）遴选、评议，并对国家相关部委、行业协会领导、高校院所专家学者以及人工智能产业领域从业者等典型群体进行深入访谈。综合研判，最终得出2021年度全球十大人工智能治理事件和事件背后的发展趋势。
十大事件三年考：重点化、国际化、法治化
纵观2019年至2021年的全球十大人工智能治理事件，可以看到社会各界对AI治理领域高度关注的若干条脉络线：
人工智能治理的重点领域日渐明晰。基于当前人工智能技术发展阶段和经济社会生活现实，人脸识别、辅助驾驶、算法推荐作为人工智能应用较广泛、发展较迅速、现实意义强、问题矛盾也相对集中的三大重点领域，其轮廓日趋清晰，国际国内人工智能治理的重心、重点和规则规范制定出台也日趋向这三个领域及相关应用场景集中。
人工智能治理领域的国际合作日趋密切。随着人工智能技术迅猛发展和世界经济格局迅速演变，各国普遍认识到，人工智能的有效治理是全球性、全局性议题，没有一个区域、国家可以成为“孤岛”，也很难在缺乏有效国际共识、协作机制的前提下真正实现人工智能领域的善治。
人工智能治理领域的法治化程度逐步提升。中美欧普遍高度重视人工智能领域立法，逐步实现了人工智能重点领域“有法可依”，重要应用场景均有法律法规和相关规则予以规范，为人工智能技术的可持续健康发展奠定了良好法治基础。与此相应，相关领域司法实践日趋走向成熟、稳定、可预期，成为人工智能治理领域重要“善治”基石。
人工智能治理领域的意识形态风险挑战日益成为焦点。世界百年未有之大变局下，大国竞争博弈日趋激烈，人工智能等前沿科技领域竞争趋于白热化。算法推荐、机器人账号、社交媒体精准推送等日趋成为人工智能应用热点，个人信息、经济社会信息、地理信息安全等问题备受关注，这些都与意识形态领域安全乃至国家战略安全息息相关，人工智能治理领域的竞争与国际话语权竞争的联系日趋紧密，“元宇宙”等新的应用场景还将继续加速这一进程。
开启算法治理元年 建构平衡包容的治理体系
在本次调查中，涉及算法治理的事件受到了专家和公众的广泛关注。国内主要事件为“九部委发文：防止利用算法干扰社会舆论等行为”“网信办拟规定不得利用算法控制热搜，用户可选择关闭算法推荐”。国际方面为“美国新提案将赋予社交媒体用户禁用算法的权利”。
2021年堪称中国算法治理元年。北京科技大学法学院副教授、国家人工智能伦理与道德标准小组成员张凌寒认为，我国的算法治理体系以信息安全、市场竞争秩序和消费者权益保护为指导思想，2021年的算法综合治理活动与相关立法，使得我国率先建立了世界上最为完备的囊括数据安全、个人信息保护和算法安全的互联网治理体系。标志性事件是世界第一部系统性、全面性规制算法的法律文件《互联网信息服务算法推荐管理规定》的出台。《关于加强互联网信息服务算法综合治理的指导意见》宣布我国将在三年内建立算法安全综合治理格局。综合来看，欧盟和美国在数据保护立法领域走在了中国之前，算法规制方面中国则当仁不让地开世界先河。
法律厘清数据边界 敏捷治理回应民众关切
人工智能技术具备卓越的信息处理能力，可以将碎片化的信息进行整合，从而实现信息从“量”到“质”的飞跃。因此，如何有效保护和合理使用信息数据，成为人工智能技术健康发展面临的重要课题。对此，我国从司法实践角度升级法律体系，适应人工智能时代的需要，保障个人信息安全。本次十大事件的评选中，国内涉及保护个人信息安全、规制个人信息收集的事件关注度最高，如《个人信息保护法》《数据安全法》正式实施，最高法出台人脸识别新规等。“人脸识别第一案在浙江省杭州市中级人民法院迎来终审宣判”也受到广泛关注。在国际方面，“欧盟发布针对人工智能技术的监管法规草案，呼吁禁止公共场所人脸识别”受关注度最高。
中国信息通信研究院云计算与大数据研究所副所长魏凯分析，2021年，备受关注的《数据安全法》与《个人信息保护法》出台，与《网络安全法》共同形成了数据治理法律领域的“三驾马车”，标志着我国数据安全法律架构已初步搭建完成。在此基础上，聚焦重点行业、新兴技术的数据安全法律法规和司法解释也在2021年密集出台，充分体现了我国在数据立法方面的前瞻性和创新性。这一系列法律法规的出台，为加快培育数据要素市场、保障数字经济健康发展奠定了坚实的制度基础。
清华大学公共管理学院教授、人工智能国际治理研究院副院长梁正认为，人工智能治理已经成为全球共识，且已从理念层面进入到建章立制、落地实施的阶段。除了自上而下的建章立制，自下而上的基于应用主体和用户选择的参与，也成为人工智能治理的一个重要特点。
刚柔并济：伦理标准推动科技向善
随着人工智能技术的快速发展和广泛应用，相关伦理问题愈发受到各界重视。目前，国内外对于人工智能的监管措施，覆盖了“柔性治理”与“刚性条款”，实现了“刚柔并济”。除了出台系列针对数据与技术的法律法规外，对于AI涉及伦理方面的内容也做出规定。自2017年7月国务院出台《新一代人工智能发展规划》，到2019年6月，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，以及 2021年9月25日，发布《新一代人工智能伦理规范》，都在为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。
联合国是推动建立全球AI伦理规范的重要力量。2021年11月，联合国教科文组织发布了《人工智能伦理建议书》，这是全球首个针对人工智能伦理制定的规范框架。此外，世界卫生组织(WHO)于2021年6月28日正式发布了“世界卫生组织卫生健康领域人工智能伦理与治理指南”。
中国信息通信研究院云计算与大数据研究所何宝宏所长强调，发布《新一代人工智能伦理规范》，细化落实《新一代人工智能治理原则》，是我国深化人工智能治理工作的又一重大举措。人工智能技术以数据、算法为驱动，发展速度迅猛，正在深刻改变人类的社会生产和生活模式。但人工智能技术的滥用也不断冲击社会伦理底线、侵犯个人权益。所以，既要大力发展人工智能，又要高度重视风险和挑战，科学处理好发展和治理的关系，发展可信的人工智能。
AI增进民生福祉 前沿科技勾勒幸福未来
“自动驾驶汽车2021年或在英国合法化”入围十大事件，意味着AI技术成熟对人类智能交通、智慧出行福祉的改善受到社会认可。南京大学计算机科学与技术系聂长海教授认为，这是人类迈出的一大步，以此为示范和契机，将会带动更多无人系统和自治系统的繁荣和发展。
在国内，关于人工智能技术向善的事件十分令人暖心：AI算法技术在社交网络上识别并救助有自杀倾向的网友；AI手语主播将全年无休为听障用户传达比赛资讯；AI首次预测气候。此外，据外媒报道，某技术公司研发的微芯片装置有望2022年植入人类大脑，这一技术将为瘫痪者带来希望。
南京大学科学技术与社会研究所所长潘天群教授认为，在网上“树洞”进行倾诉是心理障碍者舒缓压力的一个重要渠道。人工智能技术设计的软件用于阻止更多意图自杀的人，公益性强、社会价值巨大，同时也意味着基于网上的资源可以开发出各种具有公益价值的软件。
“AI手语主播的应用表明，AI数字人技术可以通过人工智能让机器用某些情感贯穿的表达方式与面部表情后台逻辑，在虚拟世界中打造一个真实的助手或者合作伙伴。未来，AI客服、AI经理、AI店长、AI演示员等多种社会角色，或许将陆续在不同行业、不同领域‘上岗’，让人们切实体会到‘人工智能建设的美好世界’。”科大讯飞高级副总裁江涛如是说。
趋势前瞻：AI为推动人类文明进步正向赋能
中国信息通信研究院副总工程师、中国人工智能产业发展联盟副秘书长王爱华认为，2021年是全球人工智能治理极具实质性突破的一年，呈现出三大发展特点：治理“趋实”、治理“趋严”、治理“趋细”。将抽象的人工智能伦理原则、法律规范转化为具体实践，落实到技术、产品和应用中去，是产业界亟需加快推进的紧迫工作。
旷视科技联合创始人兼CEO印奇认为，作为全球科技竞争的关键领域，人工智能不只需要在技术创新和应用落地上下工夫，也需要在治理上使力气。人工智能既是我们创造美好生活的重要手段，也是需要妥善治理的对象。让人工智能在合法合规、合情合理的框架下健康发展，用人工智能造福大众，离不开所有AI从业者和社会各界的共同努力。
未来，考察AI治理问题，一是需要增加新型全球化背景下的宏观考察，于构建人类命运共同体的时代议题之下，考量人工智能对人类文明的推动；更加聚焦前沿科技服务民生和助力公平，增强大众对AI改善民生福祉、助力幸福未来的期待和信心。二是通过法治手段厘清人工智能的法治伦理边界。有关部门密切追踪技术前沿，广泛吸纳意见和建议，对伦理规范进行科学、动态制定和调整，引导AI为推动人类文明进步正向赋能。三是更加强调AI治理的国际合作和政产学研合作，对于人工智能治理的问题需要全人类共同面对，相关标准规范的制定需各方参与、共商共议、交流互鉴。
责编：韩冰曦／美编：石 玉
Artificial Intelligence Governance Moving towards a New Stage and a
New Pattern
—— Comments on the World’s Top Ten AI Governance Events in 2021
People Think Tank Megvii AI Governance Research Institute
Abstract: Nowadays, the new-generation artificial intelligence (AI) has emerged and flourished globally. A systematic research on the landmarks of AI in China and other countries is conducive to identifying the trends of AI development, to handling the risks and challenges posed by this revolutionary technology on labor, employment, social ethics, and personal privacy, and to developing a comprehensive understanding of the efforts that social members at multiple levels and in various areas—including governments, academic institutions, social organizations, and corporate entities—have made to ensure the secure, reliable, controllable and sustainable development of the AI. Altogether, this research will promote a more proactive mindset to judge the situation, seize the opportunities, and lead the trends for AI to better serve the economic and social development as well as people’s well-being.
Keywords: AI governance; ethical norms; algorithmic governance; rule of law; internationalization
声明：本文为《国家治理》周刊原创内容，任何单位或个人转载请回复国家治理周刊微信号获得授权，转载时务必标明来源及作者，否则追究法律责任。