中国信息通信研究院副院长 胡坚波
【摘要】开展算法治理是依法加强网络社会治理的重要组成部分，也是贯彻党中央国务院决策部署、引导产业健康发展、顺应国际趋势的重要举措。近年来，算法在繁荣数字经济、促进社会发展等方面发挥重要作用，但与此同时，算法操纵信息、滥用数据、算法霸权等问题仍然存在，引发内容安全风险、侵害用户合法权益、破坏数字市场秩序、影响社会公共治理等问题，亟需深入治理。应坚持以人为本、安全可控、公平公正、透明可释等基本原则理念，积极构建多元主体协同的治理模式，以硬性法律制度夯实安全底线，以柔性治理手段激励算法向上向善，稳步推进算法综合治理体系建设，推动我国数字经济和算法产业发展行稳致远。
【关键词】算法治理 算法风险 多元治理 科技伦理
【中图分类号】 D922.6/TP391.3 【文献标识码】A
【DOI】10.16619/j.cnki.rmltxsqy.2022.10.002
当前，新一轮科技革命和产业变革突飞猛进，数字化、网络化、智能化加速推进，数字技术与经济社会发展、人民生产生活交织融合，数字经济发展速度之快、辐射范围之广、影响程度之深前所未有。作为数字时代一项关键信息技术，算法早已无处不在，被嵌入社会运行的诸多层次，并日益广泛地应用在新闻推荐、电子商务、无人驾驶、司法判决、智能诊疗等商业和公共领域，成为推动企业数字化转型和国家治理能力现代化的重要力量。与此同时，算法对社会生活的影响也“无远弗届”，在造福人类的同时，实践中算法歧视、算法霸权、算法黑箱等问题层出不穷，日益威胁着个人权利、公共利益乃至国家利益，因此，加强算法治理成为亟需全球共同面对的重要议题。
算法治理的重要性紧迫性日益凸显
落实中央决策部署的重要举措。开展算法治理是依法加强网络社会管理的重要组成部分，也是认真贯彻党中央、国务院决策部署的重要举措。习近平总书记多次强调，要依法加强网络社会管理，加强网络新技术新应用的管理，确保互联网可管可控。习近平总书记在十九届中央政治局第十二次集体学习时的讲话中强调，用主流价值导向驾驭“算法”。2020年12月，中共中央印发《法治社会建设实施纲要（2020－2025年）》，明确提出依法治理网络空间，“制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推荐、深度伪造等新技术应用的规范管理办法”。近年来，国家互联网信息办公室、工业和信息化部等监管部门贯彻落实党中央、国务院决策部署，持续组织开展算法治理工作，聚焦人民群众反映强烈、社会高度关注的算法推荐、信息茧房等问题，迅速出击、积极作为，切实解决人民群众最关心最直接最现实的问题。2021年9月，国家互联网信息办公室、工业和信息化部等九部门联合发布《关于加强互联网信息服务算法综合治理的指导意见》，提出用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。
引导产业健康发展的现实需要。算法治理水平对于数字经济发展环境和算法相关产业发展具有重要影响。作为数字经济时代的重要底层架构，算法逐步成为影响内容分发、服务提供、资源配置的基础性力量，与此同时，算法也引发了群体歧视、算法合谋、不正当竞争等一系列问题，影响了数字经济市场秩序，阻碍了算法推荐服务等相关产业的健康发展。深入开展算法治理是适应当前我国数字经济高质量发展的关键举措，也是防范化解安全风险、促进算法服务行业健康发展的现实需要。我国已进入高质量发展阶段，这并不是意味着我国已经实现了高质量发展，而是指我国发展已经到了必须以高质量发展为主要目标要求的阶段。习近平总书记在十九届中央政治局第三十四次集体学习的讲话中强调，要规范数字经济发展，坚持促进发展和监管规范两手抓、两手都要硬，在发展中规范、在规范中发展。推进算法治理不仅是一项具有重大社会效益的益民举措，也是为算法相关产业持续健康发展营造公平竞争环境的重要保障。
顺应国际发展趋势的普遍做法。从全球范围来看，随着算法技术演进和应用普及，起草制定算法监管相关法律政策、规制引导算法技术和应用向善发展，是全球数字经济发展背景下的大势所趋，推进算法治理已经成为国际社会广泛关注的重要议题和普遍做法。在国际组织层面，联合国、经济发展与合作组织（OECD）、二十国集团（G20）等发布多项相关伦理指南，推动算法实现透明可释、公平公正、安全可控。在区域和国家层面，欧盟提出技术主权话语体系，重点关注算法带来的人类自主性、人性尊严威胁以及日益突出的极端言论、政治生态等问题。欧盟早在2016年通过的《通用数据保护条例》（GDPR）中就规定了免受自动化决策权。此后，欧盟又相继发布《数字服务法案》《数字市场法案》《人工智能法案》等，对算法利用和大型平台展开全面监管。美国在联邦和地方层面提出多项算法相关立法，重点关注政府公共部门、人脸识别等领域产生的种族歧视、政治选举操纵等问题。2017年12月，美国纽约市议会通过《关于政府机构使用自动化决策系统的当地法》，对法院、警方等公权力机构使用的人工智能自动化决策系统进行安全规制。2019年4月，美国参议员提出联邦《算法问责法案》，要求美国联邦贸易委员会对企业进行算法审查，强调通过诉诸专业性的行政机构或外部监督主体，对算法决策问题进行审查。
我国算法治理仍面临诸多风险挑战
近年来，在党中央、国务院统一决策部署下，我国相关政府部门密切配合，积极推进算法治理相关工作，出台了全球第一部系统性规制算法推荐的法律文件——《互联网信息服务算法推荐管理规定》，取得了阶段性明显成效。但与此同时，作为引领未来的战略性技术，算法发展变化快，新情况新问题不断出现，目前仍面临诸多问题和挑战，需要持续深入推进算法治理工作。
算法操纵信息引发内容安全风险。目前，算法已经成为互联网信息分发的重要工具，代表了网络宣传的新范式。在信息大爆炸的背景下，算法推荐将信息获取从“大海捞针”转为“私人定制”，极大地提升了信息分发的效率和精准度。但是，算法应用也呈现一系列突出问题。一是以获取流量为核心目标，缺乏价值观和客观性。用户流量是企业盈利的重要来源，算法所追求的技术中立仅限于形式和运行程序中立，无法真正实现价值中立。在缺乏价值观引领的前提下，算法作为企业获客、增加用户粘性的重要工具，容易优先推送博人眼球的虚假信息、标题党、极端内容、低俗泛娱乐等信息。二是容易导致信息单一性，形成信息茧房。一方面，长期困于信息茧房、屏蔽异己信息，不利于个人理性思想塑造和观点养成。另一方面，信息茧房容易激化矛盾、加剧社会焦虑情绪，甚至造成群体极化。三是算法具有操纵用户思想、影响社会舆论的能力。算法通过大数据深度分析并实施有针对性信息推送，使人们潜移默化地遵循其所控制的技术系统的规范和要求，无形中对特定个人或人群进行精准思想“操纵”，影响公共空间意见的来源和构成。
算法滥用数据侵害用户合法权益。海量的数据“喂养”是算法创新的前提。伴随算法、物联网、5G等技术的快速发展，全球数据呈现爆发增长、海量集聚的特点。在对数据收集处理的过程中，算法容易产生侵害用户个人信息权益、算法歧视等典型问题。一方面，个人信息违规处理问题突出，严重侵犯用户隐私等权益。例如，在未经用户同意情况下，过度收集用户行为数据、人脸数据等个人信息，进行算法画像并精准推送信息或商品，侵害用户知情权、自主权和选择权。另一方面，大数据杀熟等算法歧视问题突出。平台依据用户消费习惯、地理位置、需求迫切程度等信息进行定价，部分消费者在未知情况下支付更高价格。根据总台报道，电商平台大数据杀熟现象突出，平台对价格不敏感用户、苹果手机用户或老用户、会员用户定价更高，侵害消费者公平交易权和知情权，损害社会公平交易秩序。
利用算法霸权破坏数字市场秩序。在市场竞争领域，算法有助于促进服务创新，降低决策成本，在改善商品定价模型、提供定制化服务、分析预测价格趋势等方面发挥积极作用。但与此同时，平台利用算法实施限制交易、虚假宣传等不正当竞争和垄断行为，也对数字经济发展环境和市场竞争秩序带来负面影响。一是部分平台企业利用算法给自营业务以“优待”。在市场竞争中，平台扮演了“参赛选手”和“裁判员”双重角色，易于利用算法操纵商品展示、推荐和排序的优先级进行自我优待。二是利用算法达成共谋协议。作为一种更高效的工具，算法在传统的反竞争行为当中可能起到支持、促进实施、维持和隐藏的作用，可能促进横向垄断协议和纵向垄断协议的达成和维持，例如，促成价格联合行为，检测固定或最低转售价格的偏差。三是利用算法限制交易。平台经营者通过算法进行搜索降权、流量限制等惩罚性措施来保障“二选一”行为的实施。在市场监管总局公布的调查中，个别电商平台凭借市场力量和算法等技术手段，对不执行平台“二选一”等要求的平台内经营者实施处罚，包括减少促销活动资源支持、搜索降权等，破坏了公平有序的市场竞争秩序。
算法问责困境影响社会公共治理。在公共领域，算法显著提升了公共治理效率，例如，智慧交通系统的应用大大提升了通勤效率。然而，算法在带来便利的同时也为国家安全、公共利益和个人权利带来新问题新挑战，算法治理不足成为制约我国新发展阶段数字经济提速和国家治理能力现代化的障碍。一是缺乏说明解释、公众参与等正当程序要求。例如在社会福利分配、员工聘用等算法程序中，对于算法作出对用户有重大影响的决定所造成的用户权益损害，缺乏权利救济的程序。二是通过算法实现对劳动者的行为监控，侵害其主体权益。“困在算法中的外卖骑手”、被技术支配的网约车司机、被智能手环实时监控的环卫工人等都身处算法规训的牢笼之中。三是责任归属难题。在自动驾驶、智能医疗、辅助量刑等应用中，对于因算法错误带来的人身、财产损害，如何在设计者、平台、用户等主体间分配责任，成为当前制约算法应用的重要障碍。
以“算法向善向上”明确我国算法治理的原则理念
开展算法治理首先需要明确治理的基本原则和理念，从观念和道德层面提出各方主体开展算法活动应遵循的基本要求，同时有效弥补法律滞后性的缺陷，解决算法治理过程中法律规范的“时间差”“空白区”等问题，引导算法向善向上发展。
坚持以人为本是算法治理的基本导向。开展算法治理工作必须坚持以人民为中心的发展思想，不断增强人民获得感、幸福感、安全感，促进人类社会和平发展和可持续发展。习近平总书记强调，“让亿万人民在共享互联网发展成果上有更多获得感”。以人为本强调以人作为价值的核心和社会的本位，把人的生存与发展作为最高的价值目标。要坚守以人为本的宗旨，秉持良善的技术设计伦理原则来设计算法。当前，以人为本成为国际社会算法治理普遍认可的价值导向，例如，联合国教科文组织同世界科学知识与技术伦理委员会2016年联合发布的《机器人伦理初步报告草案》，倡导以人为本，努力促使“机器人尊重人类社会的伦理规范”；再如，欧盟2020年发布的《人工智能白皮书》也指出要以人为本、合乎道德、可持续发展。以人为本强调人是算法的目的而非工具，在算法应用中，利用算法操纵人类思想、行为，利用算法窥探人类隐私、滥用个人信息等行为，均违背了以人为本的基本导向。因此，在算法设计、部署、应用的全流程中，均应牢固树立以人为本的价值导向，确保算法尊重和维护人类利益和福祉 。
坚持安全可控是算法治理的核心目标。新技术快速迭代应用的同时，也不断带来新的风险和安全隐患，隐患所涉领域从网络安全到数据安全，再到算法安全，焦点持续演进。算法安全与政治安全、国土安全、军事安全、经济安全、文化安全、社会安全等一起，成为我国总体安全体系中的关键环节。习近平总书记指出，“没有网络安全就没有国家安全”，“安全是发展的前提，发展是安全的保障，安全和发展要同步推进”。当前，算法泛化能力差、算法自我更新迭代不可控、数据质量和样本不足等技术应用现状，导致算法应用和产品存在被攻击、被欺骗、被操纵等多重风险。安全可控是确保算法可信和算法创新的重要前提。中共中央办公厅、国务院办公厅印发的《关于加强科技伦理治理的意见》明确指出，“科技活动应客观评估和审慎对待不确定性和技术应用的风险，力求规避、防范可能引发的风险，防止科技成果误用、滥用，避免危及社会安全、公共安全、生物安全和生态安全”。
坚持公平公正是算法治理的价值追求。公平公正是历史悠久的价值目标和价值准则，也是我国《民法典》《个人信息保护法》等诸多法律法规规定的基本原则。习近平总书记指出，“积极营造开放、公平、公正、非歧视的数字发展环境”。《互联网信息服务算法推荐管理规定》明确规定，提供算法推荐服务，应当遵循公正公平、公开透明、科学合理和诚实信用的原则。公平强调人人平等和机会均等，避免歧视对待，带有明显的工具性，即用同一尺度衡量所有的人或事，要求一视同仁。公正带有明显价值取向，强调这种价值取向的正当性。一方面，治理算法歧视问题需要将公平公正作为算法治理的价值取向。算法歧视可分为人为造成的歧视、数据驱动造成的歧视和机器自我学习造成的歧视，其本质是社会歧视在算法应用中的映射。另一方面，算法自我优待、操纵排序等不正当竞争行为同样违背了公平公正原则，是新技术推动下平台利用算法权力谋取私利，损害社会公正的表现。在我国进行算法治理的过程中，应当坚持公平公正的价值追求，尊重民族、种族、身体条件、宗教信仰等差异，包容地对待不同社会群体，避免各类歧视和偏见。
坚持透明可释是算法治理的重要保障。算法透明是指对算法相关信息的可访问性和可解释性，是算法责任分配的基础。《关于加强互联网信息服务算法综合治理的指导意见》明确提出，“督促企业及时、合理、有效地公开算法基本原理、优化目标、决策标准等信息，做好算法结果解释，畅通投诉通道，消除社会疑虑，推动算法健康发展”。由于算法技术的复杂性，尤其是自主学习算法的自我迭代和产生的算法“黑箱”等问题，导致算法成为不可解释的技术黑箱，引发算法问责的伦理难题。算法透明成为克服算法问责难题的重要前提和保障。算法透明首先意味着算法模型和输入、输出数据的透明可见，实现用户的知情权和监管部门对信息的获取。算法透明并不要求算法源代码的公开，仅要求对算法基本原理、主要运行机制的公示。通过算法透明，可有效发挥公众监督、行业监督和政府监管的效力，避免算法黑箱下的平台权力滥用。同时，算法透明还意味着算法运行后的可解释性。在自动驾驶、金融、医疗等应用场景下，算法如果难以实现可解释，将阻碍相关主体损害救济的实现，进而降低算法可信赖性。因此，从技术、法律和伦理等多层面实现算法在重大风险领域的可解释性，是当前算法治理的重要保障。
多措并举加快构建算法综合治理体系
算法治理工作涉及主体众多、情况复杂多样，是一项非常艰巨的系统工程，需要坚持问题导向，多措并举，推动建立涵盖“多主体”“多手段”的算法综合治理格局。积极构建多元主体协同的治理模式，加快推进软硬结合的治理手段，以硬性的法律制度夯实算法安全发展底线，以柔性的规范手段激励算法向上向善发展。
积极构建多元主体协同的治理模式。治理主体的多元化是算法治理的重要特征，依赖于包括政府、行业组织、企业、公众在内的多利益攸关方的参与合作，各方各司其职、各尽所能，以适当的角色、最佳的方式协同共治，从而构建严谨、全面、有效的全新治理模式。
一是发挥政府在算法治理中的主导作用。算法治理工作需要公权力发挥主导作用，政府监管是算法治理最主要的推动力量。近年来，算法技术在舆论宣传、市场决策，乃至军事等领域普及应用，算法风险的广泛性、全局性、不可控性凸显，单凭个人或私人机构力量难以有效对抗算法风险，需要公权力的干预和引导。国家政府部门作为肩负公共事务管理职责的公权力机关，应当依据职责和相关法律法规积极开展算法治理工作。《关于加强互联网信息服务算法综合治理的指导意见》提出，要健全算法安全治理机制，网信部门会同宣传、教育、科技、工信、公安、文化和旅游、市场监管、广电等部门，建立部门协同联动长效机制，履行监管职责，共同开展算法安全治理工作。《互联网信息服务算法推荐管理规定》也规定，国家网信部门、国务院电信、公安、市场监管等有关部门以及地方相关部门依据各自职责负责算法推荐服务监督管理工作。未来，建议相关部门充分发挥监管主体作用，健全完善算法规则标准、强化监管执法活动、加大算法规范普法宣传，持续提升算法治理水平和能力，推动算法应用向上向善发展。
二是规范企业切实履行算法治理主体责任。企业是最主要的市场主体，与传统领域治理相比，互联网企业是当前算法最大的拥有者、开发者和使用者，因此也是算法治理的重要实践者与行动者，是确保算法技术在正确道路上发展的重要防线，其履责水平的高低直接关系到算法治理工作的水平。尤其是头部平台企业，作为算法技术的主要开发者和拥有者，掌握了资金、技术、人才、市场、政策扶持等大量资源，在推动算法治理规则和标准落地上发挥着决定性作用，理应承担相关主体责任，严格遵守法律法规、科技伦理和技术标准，以高标准进行自我约束与监督，实现有效的行业自律自治。面对算法所引发的社会担忧与质疑，应当引导平台企业主动研究算法伦理问题，推动科技向善，积极探索算法评估、算法透明、算法可释等企业最佳实践，推动算法事前、事中、事后全流程风险把控，开发差分隐私、隐私计算、算法透明度工具等技术手段，并积极参与和引领算法国际标准制定，在算法治理中发挥重要作用。
三是引导行业组织积极参与算法治理。行业组织作为兼顾服务、沟通、自律、协调等功能的社会团体，是协调算法治理、制定算法应用产业标准的先行者和积极实践者。算法行业只有通过不断地自律发展，更多地履行法律义务和社会责任，更好地发挥政府和市场各自的作用，才能走向良性循环，才能满足人民的需要，才能在国际上更具竞争力。从国际社会来看，电气与电子工程师协会（IEEE）、美国计算机协会（ACM）、人工智能促进协会（AAAI）等行业协会，以及国际标准化组织（ISO）、国际电工委员会（IEC）等标准化组织在算法、人工智能治理领域发挥了重要作用。从国内来看，我国目前也成立了人工智能产业技术创新战略联盟、人工智能产业发展联盟等行业组织，成员涵盖了国内主要的算法企业。下一步，在算法治理中，建议进一步发挥行业组织作用，积极搭建政产学研沟通平台，组织开展算法治理相关研究，制定算法技术及产品标准，推动行业各方落实算法治理要求，持续贡献行业治理经验。
四是鼓励公众参与算法治理，完善社会监督。公众是算法技术、产品的主要服务对象，拥有对算法治理相关内容的监督、意见反馈等权利。公众参与是实现算法有效治理不可缺少的重要力量。治理好算法，需要着力畅通各个治理主体间沟通渠道，加强社会公众与平台、政府等主体间的对话与协商，合作制定应对算法风险挑战的整体解决方案。公众要积极参与算法治理的规则制定，适当介入相关监督、监管过程，为算法治理献计献策，形成自下而上的协同治理模式，使算法服务真正地“以人为本，造福人类”。此外，新闻媒体是社会监督的重要力量，在算法治理中可以充分发挥舆论监督功能，畅通社会监督表达渠道，着力发现问题、化解矛盾，力求通达社情民意、弘扬社会正气，保障公众知情权、参与权、监督权。
五是深化算法治理国际合作。习近平总书记指出，我们要携手合作，共同营造有利于数字经济发展的国际环境，要推动建设和平、安全、开放、合作的网络空间，探索建立多边、透明、包容的数字领域国际贸易规则。算法技术发展和应用具有跨国界、国际分工的特征，治理算法需要国际社会共同发力。由于各国在算法技术研发上的关注与投入不同，算法技术在各国的发展参差不齐，有关算法治理的需求和要求也各不相同。可以考虑依托联合国、上合组织、G20、金砖等国际组织和多边场合，汲取各国关于算法治理的共性原则和最佳实践，深入参与并积极宣介中国在算法治理领域的经验做法，引导算法治理稳步前进并达成国际共识。
以硬性法律制度夯实算法安全底线。法律是治国之重器，法治是国家治理体系和治理能力的重要依托，是互联网治理特别是算法治理工作不可或缺的重要手段。要妥善解决算法发展中治理的一系列突出矛盾和重大问题，必须密织法律之网、强化法治之力，划清行为底线、明确违法违规高压线，坚持在法治轨道上统筹社会力量、平衡社会利益、调节社会关系、规范社会行为，推动构建涵盖算法备案、分级分类、算法审查等举措在内的科学监管体系，逐步形成算法治理长效机制，确保算法发展既生机勃勃又井然有序。
一是健全完善算法备案制度，从服务入口实现登记备查。算法备案制度是一项推动实现算法透明的重要创新制度。备案制度在我国有着较为广泛的运用，一般是指备案主体向行政主管机关就要求事项提供书面材料，主管机关接受备案主体材料，予以登记并存档备查。通过算法备案制度，可在算法服务入口获取算法设计部署阶段的算法系统相关信息。当算法的使用造成实际损害时，既有的算法备案信息也可以为监督部门提供便捷的故障溯源与追责途径，有利于及时便捷地保障国家、社会、个人的权利。特别是在算法应用领域仍在拓展、影响尚不明确的情况下，采取算法备案这一监管措施，可以在保持风险防控力的同时，随时对算法发展和运用的情况进行观察与研判。目前，在互联网信息服务领域，根据《互联网信息服务算法推荐管理规定》，我国已经上线运行了算法备案系统。针对算法种类繁多、形式多样的特性，应通过立法方式进一步扩展备案范围，完善备案程序、细化备案主体义务，稳步推进算法备案工作。
二是建立分级分类管理制度，依风险大小实现差异监管。分级分类管理体现了科学化、精细化的算法治理基本思路，是平衡安全和发展的重要制度方案。当前，以风险为导向的分级分类管理理念在国际社会得到广泛认可。例如，欧盟《通用数据保护条例》推行“基于风险的路径”（risk-based approach），将风险作为判定个人数据保护义务的重要衡量标准；2021年，欧盟《人工智能法案》延续“基于风险”的监管理念，对人工智能技术应用进行风险划分，确立了不可接受的风险、高风险、低风险、极低风险等四级人工智能。再如，加拿大《自动化决策指令》将算法风险划分为四级，分别介于I（代表最小风险）和IV（代表最大风险）之间。在我国，分级分类管理已在多个领域得到普遍适用。例如，在数据安全领域，《中华人民共和国数据安全法》要求国家建立数据分类分级保护制度。2021年出台的《互联网信息服务算法推荐管理规定》将算法推荐技术分为生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等五大类，同时，《互联网信息服务算法推荐管理规定》明确要求，根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等对算法推荐服务提供者实施分级分类管理。下一步，应研究制定算法分级分类管理的具体制度要求，全面调查评估算法风险等级，通过出台规范性文件、行业标准等明确细化算法分级分类的可操作标准，通过企业最佳实践形成算法分级分类方案。
三是建立算法审查制度，深入平台内部实现穿透式监管。算法审查是由监管部门对算法的流程、要素进行合规性审查，旨在揭示算法是否遵循了适当程序，并发现侵害事实与算法损害结果的关联性，以实现有效追责的监管方式。近年来，国外由司法部门进行的算法审查和由第三方机构进行的算法审计在算法治理中逐渐发挥重要作用。例如，美国威斯康星州最高法院对Wisconsin v. Loomis案中使用算法是否造成种族歧视的问题进行司法审查。再如，2020年，荷兰审计署对荷兰政府使用算法的情况进行为期一年的审计工作，以评估算法带来的社会影响。适应算法治理新形势的需要，我国应尽快建立算法审查制度，从审查机构、审查范围、审查流程、审查内容等方面推进算法治理和算法责任落实。一方面，可依法建立算法审查专门机构，负责对算法进行随机抽查或定向抽检，从技术上对算法进行审查检验，对算法风险提出更正、补救措施。另一方面，建立健全算法审查机制，对算法运行的全过程，包括数据输入、算法设计、算法运行、结果影响进行有效的审查监督，注重对数据偏见的审查，确保数据样本的公平客观；注重对算法模型开发和运行阶段的人工干预，降低算法决策偏差所带来的影响。
以柔性的规范手段激励算法向上向善。算法风险作为数字智能时代的新型风险类型，具有明显的广泛性、复杂性，仅靠法律手段难以完全实现全面治理。以算法评估、技术治理、行业标准为代表的柔性规范手段，不仅弥补了法律滞后性带来的治理空白，引导算法向上向善发展；同时也避免了法律制度的强制性约束，为企业创新和业务探索留下了空间。
一是利用算法评估提前研判安全风险。算法评估是自我监督和外部强制性监督结合的治理机制。算法评估目的是建立风险适应型的算法治理，在设计、部署、运行和结果输出全生命周期进行评估，不同评估结果对应不同治理强度。这一制度要求在算法模型设计完成后、投入使用前，由专门机构对算法可能造成的潜在歧视影响进行事前评估，尤其要对其是否将对特定受保护群体产生不成比例的差别性影响加以评估。具体来看，算法评估从程序和实质上创建了合理的算法透明度，保证算法系统的可追溯性、稳健性和准确性。当前，算法评估制度已成为国内外算法治理的重要手段。例如，2021年，欧盟《算法责任与透明治理框架》提出建立“算法影响评估”机制，以应对算法对内容与用户行为的“过程操纵”。我国《互联网信息服务算法推荐管理规定》也规定了有关部门依法开展算法评估和监督检查的工作职责，并要求算法推荐服务提供者对评估和监督检查工作提供必要的数据、技术等支持或协助。下一步，应尽快建立配套的算法安全检查评估机制，推动算法推荐服务提供者开展算法安全自评估，督促相关主体建设安全检查评估力量，支撑有关部门对算法推荐服务进行安全检查，督促算法推荐服务提供者及时发现和整改相关问题。
二是利用技术手段预警日常风险隐患。技术治理是化解算法风险、实现日常预警隐患的重要手段。随着人工智能的持续发展，算法技术治理方式也在不断突破创新，方法种类不断丰富，作用效果逐步提升。一方面，在设计和开发阶段构建可信人工智能框架、坚持伦理与法治的设计原则、加强对算法系统的测试和验证、建立服务质量指标体系等；另一方面，在算法部署全流程中，加强技术实时监测、通过技术手段实现算法系统的可解释性等。从算法安全监管体系的角度来看，算法风险监测致力于对算法的数据使用、应用场景、影响效果等开展日常监测，感知算法应用带来的网络传播趋势、市场规则变化、网民行为等信息。从实践来看，目前部分企业已通过数据筛选、算法设计、模型优化等技术手段，将伦理原则“嵌入”算法应用与产品中，从而解决诸如隐私泄露、算法偏见、非法内容审核等问题，以达到科技向善的目的。在我国算法治理过程中，应进一步强化研究攻关算法全生命周期安全监测等关键技术问题，开展网络算法第三方监测、评估等方面研究，实现算法标准化及可评估以促进技术创新和成果转化，提高算法产品服务质量与国际竞争力，助力打造公平开放的算法产业生态。
三是利用行业标准明确算法运行底层逻辑。在软法治理的工具箱中，行业标准是国际社会普遍依托的重要抓手。行业标准是对企业和市场需求的规则回应，有助于细化具体要求，引导企业承担社会责任，促进算法应用向上向善。在算法治理过程中，行业标准可在算法规范中嵌入伦理价值，例如，国际标准化组织《ISO／IEC 30122》、电气和电子工程师协会《IEEE P7001》等文本中均嵌入了算法透明、安全可控等价值。与此同时，行业标准是一种编码化的知识，可将技术的某项特性或路径转换为技术规范，进而促使产品达到规范要求。此外，技术标准可以结合应用场景和系统类型探索最佳方案，为人工智能产品的设计者提供清晰指引，确保系统生成可靠、完整且不可篡改的确凿记录作为追溯验证的依据。总体来看，行业标准对算法治理具有基础性、支撑性、引领性作用，同时也是我国算法法律制度的细化和补充。我国《个人信息保护法》《数据安全法》提出，要建立与人脸识别、人工智能等新技术新应用相关的标准体系。下一步，应积极回应算法技术标准建构的迫切需求，尽快细化算法相关立法中的规范要求，明确对算法的技术性规制需求，注重算法标准之间的衔接与配套、标准评估机制、标准实施机制等问题，建设能够有效协同法律规范和技术标准的算法治理体系。
结语
当前，面对算法治理的痛点和难点，积极构建算法治理体系，最大限度地发挥技术潜力和优势，有效应对其引发的社会和伦理影响已逐渐成为全球共识。未来算法治理路径应放在不同的场景、业务下进行讨论，并综合运用多手段、多主体协同治理。根据算法使用场景、影响范围、可能的危害程度的不同，采用分级分类、基于风险治理的思路。对涉及重大敏感利益等“高风险”的算法应用场景，应当加强事前监管，依据合理审慎原则设置必要的准入限制和约束条件。对于“低风险”算法应用领域，采取基于结果的规制思路，侧重于事中事后的监管。应采用伦理规范、行业标准、算法备案、算法审查等软硬法并举，通过国家政府、行业组织、企业、公众等不同主体协同治理。在算法治理国际合作方面，既需要突出全球各国的共同理想和追求，也需要尊重和理解各国制度设计中存在的不同，通过合作的方式共同寻求合理有效的算法治理路径。
参考文献
中国信息通信研究院、中国人工智能产业发展联盟，2020，《人工智能治理白皮书》，北京：中国信息通信研究院、中国人工智能产业发展联盟。
张凌寒，2021，《权力之治：人工智能时代的算法规制》，上海人民出版社。
朱宝丽，2018，《行政备案制度的实践偏差及其矫正》，《山东大学学报（哲学社会科学版）》，第5期。
许可、刘畅，2022，《论算法备案制度》，《人工智能》，第1期。
张欣，2021，《我国人工智能技术标准的治理效能、路径反思与因应之道》，《中国法律评论》，第5期。
许可，2022，《算法规制体系的中国建构与理论反思》，《法律科学》，第1期。
蔡星月，2021，《人工智能的“标准之治”》，《中国法律评论》，第5期。
林凌，2021，《哲学视域下的智能传播》，《山东师范大学学报（社会科学版）》，第6期。
毕勋磊，2012，《论作为知识的技术标准》，《自然辩证法通讯》，第5期。
责 编／桂 琰
胡坚波，中国信息通信研究院副院长，教授级高级工程师，中国通信学会信息通信战略咨询委员会主任委员。研究方向为信息通信技术政策、网络规划、移动互联网及智能终端。主要著作有《统筹发展和安全 提升数字化治理效能》（论文）、《5G助力数字经济新发展，两岸产业合作迎来新机遇》（论文）等。
Take Multiple Measures to Promote Algorithmic Governance in China
Hu Jianbo
Abstract: Algorithmic governance is an important part of strengthening the governance of the cyber society according to the law. It is also an important measure to implement the decisions and arrangements of the CPC Central Committee and the State Council, guide the healthy development of the industry, and adapt to the international trends. In recent years, algorithms have played an important role in prospering the digital economy and promoting social development. However, at the same time, problems such as information manipulation, abuse of data and algorithmic hegemony still exist, which causes content security risks, infringes on the legitimate rights and interests of users, disrupts the digital market order and affects social public governance, as well as other problems that need to be resolved completely. This article argues that we should adhere to the basic principle and concept of putting people first and pursuing an algorithmic governance that is safe and controllable, fair and just, and transparent and visible; actively build a multi-party collaborative governance model; consolidate the bottom line of security with a rigid legal system; encourage algorithms to develop for social good with flexible governance means; steadily establish a comprehensive algorithmic governance system; and promote the stable and long-term development of China's digital economy and algorithmic industry.
Keywords: algorithmic governance, algorithmic risks, diversified governance, technological ethics
