【摘要】快速迭代的数字智能技术正将人类社会带入一个充满张力和不确定性的时代，传统社会数字化转型的进程不断提速。数智社会的良性发展既要充分利用数字技术优势，也要警惕技术赋能可能存在的各种异化风险。要辩证理性地看待数字技术及其运用，处理好治理目的和治理手段、数字权力和公民权利、个体利益和公共利益、技术赋能和制度创新之间的关系。在充分发挥数智技术正面效用的同时，最大限度地预防、控制和消除其潜在风险以及负面效应，通过数智善治创造新时代人民美好生活。
【关键词】数智治理 异化风险 防控 【中图分类号】D63 【文献标识码】A
数字智能技术的快速迭代和深入运用正引发全球性变革。随着第四次科技革命的深入推进，全球生产、生活和治理系统都将面临深刻转型。对于公共治理而言，其数字化转型带有明显的两面性：一方面，基于数字智能技术的敏捷化重塑已经成为当前公共部门创新发展的重要趋势之一，这个过程不仅显著提高了政府内部的运行效率，也快速提升了市场监管和社会治理效能；另一方面，智能技术无边界、无规则、无制约的运用也可能给社会和民众带来各类风险甚至危机，如数据泄漏、“数字禁足”等。对于技术赋能治理可能产生的风险要做好警惕和防范，努力实现数智善治。
技术赋能治理中的异化风险
首先是只见数字不见人。数字技术在推进社会治理智能化过程中起着强有力的支撑作用，利用城市体征、数据画像等技术能够灵敏感知风险、快捷响应公众诉求、拓宽治理沟通渠道。但盲目依赖数字技术而忽视人的价值，则会出现本末倒置、价值缺失等系列问题。一方面，现实生活的丰富性不能完全被有限的数字所反映。社会是高度复杂、多元的系统，人也是丰满、多面和立体的社会存在，而数字是个体或集体的某类特征的抽象性表达。单纯依赖数据进行决策和治理往往容易遗漏很多关键信息，产生“测量失灵”“画像偏差”等问题，导致“简单化”“一刀切”式的管理。另一方面，单纯的技术维度极容易产生伦理问题，如将人机器化、工具化等。数字技术作为治理工具，能够有效提升组织效率，但技术的误用滥用则会压制组织活性，使内部成员成为数字技术的傀儡。“数字官僚”“数字执法”在单纯强调数字技术的同时，容易抹杀社会主体和社会事务的丰富性、多样性和复杂性，不能准确把握治理对象的本质特征。片面强调数字技术的工具价值而漠视人文关怀，会偏离数智治理增进社会福祉的价值起点。
其次是数字失能问题亟需关注。一般来说，数字化转型会给社会带来越来越便捷的沟通、交流和连接，但在某些特定情景中也会出现相反甚至相悖的现象。例如，数智治理对于老年人等社会群体往往产生“挤出效应”。由于年龄增大、环境变化和服务不足等因素，老年人等社会群体难以适应日新月异的技术变迁，老年群体消费不便、出行受阻、数字歧视等现象频频发生，老年群体的数字失能问题显得更加突出。又如，基层治理数字化转型对于基层工作人员的专业化、数字化素养要求越来越高，而技术要求与数字能力之间的差距也会进一步增强他们对于技术运用的排斥心理。碎片化、重复化和重叠化的数字系统和平台建设不仅没有减轻基层负担，还可能在短期内增加基层工作量，进而影响该群体的工作效率。
再次是权力滥用侵害正当权益。在数字技术持续赋能政府治理和赋权社会个体的进程中，既要警惕数字权力滥用，也要防范算法权力的破坏效应。一是公共领域的数字能力发展不平衡。数字政府建设中增强政府控制力的技术通常能够迅速推进，如网格化管理、视频监控等，而那些改进政府自身管理、加强政民互动、强化政府监督的措施则相对滞后。为追求部门或个人利益，少数公职人员将权力凌驾于制度规则之上，损害部分群众的正当权益，严重破坏了政府的公信力。二是商业数字平台亟需有效监管。企业通过“用户画像”分析用户消费模式，精准投放商品链接，实施差异化定价，违背市场公平原则。受资本利益驱动，算法在工厂流水线、外卖平台的无限制使用已经使部分劳动者陷入“算法困境”。在虚拟交互平台，互联网巨头根据个人偏好使用私权，对未触犯法律规范的用户实施禁言、封号，实质上侵害了公众在数字公共空间的生存权利。
最后是数字形式主义增加基层负担。数字手段虽然得到了推广和运用，但求真务实的数智治理理念在一些地方尚未形成。一是数字政务平台建设可能被部分地方政府视为政府治理创新的“政绩”，重投入轻运用，重硬件轻软件，重建设轻运营，最后没有真正发挥数字平台在优化治理体系、提升治理效能重的功能和作用。新型“面子工程”生产成本高昂而效能低下，导致资源严重浪费，创造公共价值的能力不足。二是条块分割、行政壁垒、以邻为壑等传统管理问题在数字化转型过程中依然存在，这就制约了信息的跨部门整合和使用，以及公共服务体系的集成和优化。三是在一些地方，由于缺乏科学的顶层设计和高位统筹，各自为政的数字平台和系统建设往往迫使基层忙于填报各类报表，甚至玩起了数字游戏，产生新型数字形式主义。同时，“痕迹主义”的管理方式，如网络留痕、上传照片、系统定位签到等考核形式，加大了基层工作的机械劳动和情绪劳动，降低工作效率，催生虚假政绩。
技术赋能要以实现数智善治为目的
数智善治是指运用数字智能技术优化重塑公共治理的流程、方式和形态，全面提升公共服务和管理的效率、效能和效果，降低社会交易成本，增进社会公共福祉，最终实现社会良善治理的状态和目的。数智善治意味着在充分发挥数智技术正面效用的同时，最大限度地预防、控制和消除其风险以及负面效应。实现数智善治需要处理好以下几对关系：
一是治理目的和治理手段的关系。在技术狂飙突进和大行其道的时代，更应警惕技术的负面效应和异化风险，克服单纯的技术主义和工具主义倾向。要区分和明晰技术赋能过程的“体”和“用”。“体”是目的、价值和主干；“用”是手段、方法和枝节。具体来说，“体”就是坚持以人为本，保证程序正义，提升公共利益和个体权益，助力人民群众美好生活的实现；“用”就是技术对治理行为、过程的嵌入，包括大数据、人工智能、物联网等技术的开发利用，数字治理平台的建设和运行，以及数字治理场景的构建和具体实施。现代化的治理体系不能只有目的而缺乏手段，更不能将手段替换目的，本末倒置。
二是数字权力和公民权利的关系。在现代社会的运行和治理过程中，权力和权利是一对重要的概念范畴，也是社会规制和法治中要处理的一对重要关系。某种程度上说，权利的保护需要权力的行使，缺乏公正的权力行使，正当权利可能无法得到保证；但另一方面，权力的滥用也会危害正当的权利。在法律层面，人们达成的一个基本共识是，行政权力的行使应兼顾行政目标的实现和保护相对人的权益。如果行政目标的实现可能对相对人的权益造成不利影响，则这种不利影响应被限制在尽可能小的范围和限度之内，二者应有适当的比例。数字权力本质上就是影响力，在现实中，这种权力的背后往往有着行政权力的身影，甚至行政权力借数字权力达到自身目的。因此，数字权力的行使也需要兼顾规范目标的实现和相对人的合法权益，更不能直接、粗暴损害相对人的合法权益。
三是个体利益和公共利益的关系。公共利益与个体利益本质上是融通的，二者发生冲突时个体利益需让步于公共利益，同时个体利益的实现也离不开公共利益的指导。因此，维持公共利益和个人利益之间的张力，需要平衡调和二者关系，不能忽视任意一方。笼统来说，提升公共利益依赖于公民能够通过数字化应用广泛参与公共事务，树立规则意识和责任意识，维护政府权威，涵养公共精神。面对突发公共事件时，公共利益在先，个人利益在后。但另一方面，在捍卫公共利益的前提下也要尽可能保障公民个体利益，要切实尊重和保护公民信息安全，或者提供一定的救济渠道。如果单纯强调个体利益无条件服从公共利益，也难以实现公共利益最大化，通常只有切实保护好每个成员的个体利益，才能实现共赢。
四是技术赋能和制度创新的关系。推动数智社会治理的关键因素，究竟是技术赋能还是制度创新？技术决定论认为蓬勃发展的数字技术能够为数智社会提供前所未有的可能；反对者则认为数字技术只是为组织提供硬件保障，提升治理效能进而实现善治还需要制度创新加以支撑。总体来说，技术赋能无法脱离制度保障，制度创新也不能脱离技术作用。一方面，数智治理要实现技术真正赋能公共部门，还需要制度支撑。在公共管理实践中，政府在技术层面引入大数据分析等应用，但条块分割的弊病阻碍部门数据共享，而部门壁垒需要从制度层面才能加以解决。只有通过有效的制度规范和制度激励，为部门间数据共享提供良好的政策环境，破解治理碎片化困境，才能发展巩固技术的改革成效。另一方面，技术的常态化使用需要制度的规范和约束。平衡技术赋能和制度创新的关系，需要认识到技术只是“赋能者”，关键在于制度的创新动力，破除“数字替代一切”“技术解决一切问题”等片面思维，通过探索体制机制优化，开辟现代化、精细化治理之路。
技术赋能异化风险的防控机制
实现数智善治，需要人们辩证理性地看待数字技术，对于数字技术的应用，要兴利除弊、扬长避短，特别是秉持社会公正、平等正义的原则和立场，切实通过技术赋能创造新时代人民美好生活。
第一，坚持以人民为中心的数智治理理念。加强数字政府建设是推进国家治理体系和治理能力现代化的重要举措。因此，需要从政治的高度看待数智治理，以现实需求为核心，将满足人民对美好生活的向往作为数智治理的出发点和落脚点，着力破解企业和人民群众反映强烈的办事难、办事慢、办事繁等问题，坚持数字普惠，打破数字垄断，消除数字鸿沟，全面提升公共服务和社会治理的效率和效能。对地方政府和部门来说，不能将数智治理简单理解为冷冰的数字化、数目化管理，更不能以“数字官僚”“人工智能”完全取代传统的、行之有效的群众工作方式方法。要以“实战中管用、基层干部爱用、群众感到受用”为衡量技术赋能成功与否、合理与否的标准。同时，还需要向全社会特别是数字弱势群体提供更加丰富、全面的数字信息服务，加强技术教育培训，不断提升公民数字素养。
第二，健全完善数智治理重大决策机制。党的十八届四中全会提出，健全依法决策机制，把公众参与、专家论证、风险评估、合法性审查、集体讨论决定确定为重大行政决策法定程序。这为提高决策科学化、民主化、法治化水平提供了保障。应该看到，随着数据化和智能化程度不断提高，数据分析和算法决策开始在公共政策制定和执行中发挥越来越多的作用，算法和电脑程序开始代替人工进行情势判断和管理决策。从现代法治精神来说，如同其他行政权力应被“关进制度的笼子”一样，这些基于数智的决策和数智决策本身也需要受到监督、审查与控制。特别是应考虑将可能普遍限制公民自由权利的技术运用纳入重大行政决策范围，不仅完善其相关决策程序，同时建立合法性审查机制，确保其合法、合规。同时，要及时主动向社会公开数据治理过程，接受社会监督。要建立责任追究制度和责任倒查机制，对于故意、明显危害正当公民权利和公共利益的数字决策行为以及相关人员严肃追究责任。
第三，建立健全权利救济制度。公民权利受到侵害后能否得到及时、有效的救济，是衡量一个国家法治水平实现程度的重要标尺。在大数据时代，如何防止数字权力对公众的负面影响，维护公众正当权益的问题应纳入政府议程。一是推进申诉程序法制化。这就需要细化查询机制、申辩机制、更正机制等方面的具体规定，通过法制化建设保障公民陈述、申诉或对抗的机会，保障权利救济有法可依。优化申诉程序，允许算法决策和人工决策相结合，引入利益相关者参与，确保公共政策的公平性、公正性，防范和化解权力异化风险。二是完善部门的数字责任机制。明确有关责任单位或个人在执法过程中使用数字技术应承担的法定义务和责任，制定数字治理过程中的“负面清单”，包括非法篡改、删除、使用个人信息等行为。针对公民查询、申诉等需求，责任单位设立专职负责小组进行反馈与跟进，建立申诉案例数据库，提升同类案件的处置效率。三是完善公益诉讼制度。结合数智时代出现的新情况和新问题，进一步完善公益诉讼制度，更新公益诉讼类型。特别是将利用数字权力产生公害的违法失职行为纳入公益诉讼范围，通过法律的方式保障社会公众的正当权益。
第四，加强数据保护和安全制度建设。某种意义上说，数据安全问题制约着新兴科技应用于数智治理体系的深度和广度。在机制优化层面，要加强数据安全全过程管理。依托大数据资源平台，实现数据归集、治理、共享、应用等全过程的统一管理。明确数据收集范围和使用范围，加强数据匿名管理意识，分层分类制定数据共享机制和删除机制，完善数据运营服务机制，以此形成良性循环、螺旋上升的数据应用体系。在技术保障层面，落实数据安全保障措施。利用物理防火墙、虚拟防火墙、日志审计等安全设施，赋能数据安全运维工作。开展日常数据安全监测，加强数据安全事件、信息泄密事件的预警和发现能力。制定应急预案及演练，建立关于数据安全与应急管理相关工作规范，针对演练过程更新应急预案。在人员管理层面，建立问责机制，提高权责匹配意识。对数据管理部门人员采用背景审查、签署保密协议、开展安全培训等措施实现对人员的安全管理。开展数据安全与信息保护的法律宣传和教育，提高管理人员数字法治素养和水平。
第五，构建共建共治共享的数智治理格局。移动互联网的全面普及大大提升了社会大众的公共参与能力，包括对公共信息的获取、公共讨论的参与和意见的充分表达。但另一方面，由于专业门槛的客观存在，数智技术的研发、平台建设和系统运行往往由政府部门和专业化企业主导，某些情况下甚至根据管理者的主观偏好进行闭门造车，缺少对社会需求和民众诉求的吸纳。党的十九届四中全会提出，完善党委领导、政府负责、民主协商、社会协同、公众参与、法治保障、科技支撑的社会治理体系。社会治理是多元主体协同合作的过程，技术嵌入只有在这个框架下或者说能够促进治理框架发展，才能提升社会治理的现代化水平，真正造福于社会和民众。因此，应提升数智治理的开放度和包容性，有序引导社会组织、公众参与到数智治理过程中来。一是有关部门应定期发布公共数据运用情况报告，及时公开公共数据采集、储存、使用和监管流程。二是吸纳专家和公众代表到算法开发、运行监管中来，评估数智技术运用的合理性与合法性。三是探索公民驱动的数智合作治理和数据管理模式，进一步促进数据公开和共享，推动医疗、养老、教育和交通等民生领域公共研究创新。四是拓展和开发公共事务电子协商、网络协商的新形式和新路径，及时反映社情民意，提升公共治理对社会需求的灵敏度和回应度。
（作者为武汉大学政治与公共管理学院教授、博导；上海师范大学哲学与法政学院研究助理李婕对本文亦有贡献）
【参考文献】
①曾盛聪、董沁昕：《“赋能”与“挤出”双效应下数字治理的“补丁”策略——基于代际发展权的分析框架》，《人文杂志》，2022年第6期。
②张会平：《推动基层治理数字化转型的三重整合逻辑》，《国家治理》，2020年第38期。
③郑磊：《数字治理的效度、温度和尺度》，《治理研究》，2021年第2期。
④张凌寒：《算法权力的兴起、异化及法律规制》，《法商研究》，2019年第4期。
⑤马长山：《数智治理的法治悖论》，《东方法学》，2022年第4期。
⑥郭华、李红霞：《刑事电子数据收集中的公民权利救济》，《广西社会科学》，2019年第11期。
⑦吴晶晶：《从数字治理走向数字善治的路径探索》，《山东行政学院学报》，2022年第2期。
⑧高志宏：《个人信息保护的公共利益考量——以应对突发公共卫生事件为视角》，《东方法学》，2022年第3期
责编/于洪清 美编/杨玲玲
声明：本文为人民论坛杂志社原创内容，任何单位或个人转载请回复本微信号获得授权，转载时务必标明来源及作者，否则追究法律责任。
