摘 要:近年来，人工智能的快速发展及其应用范围的不断扩大，不仅对人类生活的丰富多样提供了更多可能性，也为进一步推进国家治理体系和治理能力现代化提供了有力的技术支撑。但同时，也应认识到，人工智能技术具有两面性，其在为人类社会发展带来便利、起到推动作用的同时，背后潜在的风险也逐渐显现。正确认识人工智能在治理领域的“正”“反”两面作用，对更好发挥人工智能技术在治理领域的正向效应，规避潜在风险具有重要意义。
关键词:人工智能 治理现代化 技术支撑
【中图分类号】D630 【文献标识码】A
国家治理能力是运用国家制度管理社会各方面事务的能力，包括改革发展稳定、内政外交国防、治党治国治军等各个方面，直接关系到我国的良序发展和国际竞争力的提升。要推进国家治理现代化，实现高质量发展，需要提高资源利用的有效性，优化资源配置，在效率与公平间达到平衡。随着科学技术的发展与进步，未来国家治理的优化可以借助人工智能技术的优势得以实现。
人工智能的发展与应用
自2012年以来，人工智能迎来了第三次热潮。在大数据、深度学习模型和高效并行计算硬件（GPU）的合力下，人工智能的研发与应用在各行各业中取得了显著的进展。举例来说，在高铁、机场中，绝大多数原有的人工验票方式已经为高效且准确的自动人脸身份认证系统所替代；在医疗诊断中，人工智能技术的引入可以辅助医生对疑似病症进行初筛；在气象预报中，人工智能可以利用大数据对恶劣气候进行预测，从而提高气象预报的实效和精度。基于类似原理，人工智能可利用其在以下五个方面的优势来推进国家治理现代化：
海量计算能力。在国家治理过程中会形成大量的数据，这些数据既有源自同一领域的，也有异构和非结构化的。国家治理中涉及到的数据规模大、更新速度快，纯靠人力来分析和处理难以遍历数据全貌，且需要付出高昂的人力成本。此时，可以考虑利用人工智能的强大计算能力，通过设计高效的人工智能搜索或采样技术，从海量治理方案中快速高效地找到更有效的治理方案。
高风险模拟。在治理中，我们需要对未来的情况或治理方案可能带来的后果进行预判和评估，从而避免错误的治理方案。但是，并非所有的治理行动都能进行实际环境测试，如生态文明、经济建设等，都不可能通过对实际治理情境做刻意恶化来进行评估和分析。在此情况下，人工智能可以通过提供虚拟仿真环境来帮助优化治理体系，基于多种可能性形成优化治理，并减少治理的成本和风险。
预测能力。随着人工智能第三波热潮的核心理论和算法模型——深度学习的兴起，在多数可程序化的任务中，如人脸识别和图像分类，人工智能的预测能力已经超越人类。因此，把在这一框架指导下的各种技术方法融入国家治理体系中，有利于更高效地提升治理的效能。
用户偏好能力。治理是多层次的，对不同的方面有着不同的需求。人工智能能够通过分析用户需求，进行量身定制，通过共用人工智能模型来减少重复操作，并获得更丰富、多粒度的治理模型。
相对客观性。人工智能虽然以人类设计的算法为基础，但通常不会受到人类情绪的影响，因此在预测中能保持其最大程度的相对客观性，也就能尽可能地体现治理体系的公平性。在国家治理现代化进程和高质量发展阶段中，借助人工智能实现公平与效率的平衡尤其具有现实意义。
人工智能进一步应用可能带来的风险隐患
对个人隐私的侵犯。首先，多数人工智能技术缺乏对隐私保护的考虑。在缺乏制度性规范的前提下，个体的隐私极容易被泄露，使得有数据抓取能力的企业有机可乘，并能通过人工智能技术来实现对个人的监控，以及对个人行为偏好进行干预，进而影响其原有的行为表现。此外，如果拥有这些数据的企业缺乏安全防范意识，让这些隐私数据流出或被黑客恶意窃取，就会进一步提高诈骗案件的发生几率。但值得注意的是，因为企业的逐利性，如果仅仅指望其通过严格自身管理、提高防范意识，并不一定能对该类问题进行有效预防。而更合理的方式是，从国家层面建立完善的隐私保护规范，审查企业中可能存在的未经允许便获取个人信息和导致隐私泄露的系统，保护公众和国家的安全。在此基础上，将具有隐私保护功能的人工智能技术或系统融入国家治理体系中，将有助于实现治理中对公民权益的有效保护。
数据有偏性带来误判。除此以外，数据在收集过程中有可能会存在数据有偏性，这会导致在治理过程中产生不准确的评估。举例来说，在某个关于识别照片中哈士奇和爱斯基摩犬的分类任务中，科学家们发现，在这个图像数据集中，多数爱斯基摩犬是拍摄于雪地中的，使得识别过程实际上是通过识别图片上有没有白雪来完成的“虚假正确”分类。此外，不仅在数据采集上存在有偏的风险，甚至在与性别相关的自然语言分析上，人工智能也会体现出与性别相关的倾向性回答。因此，在治理现代化中需要谨慎分析和解决治理相关数据的有偏问题，从数据源和处理方式上保证治理的公平性。
数据造假。人工智能模型也不是完全可依赖的，其也有可能提供伪造的数据。具体来说，自2014年以来，人工智能已经经历了新一轮的升级换代，通过Ian Goodfellow提出的生成对抗网络及其变种生成的“假”数据几乎可以达到以假乱真的地步。尽管生成对抗网络最初的提出是为了增加数据量，帮助模型进行充分训练，但在实际应用中，却有不法分子利用这一漏洞来生成可用于诈骗的数据。除此之外，现有的深度学习模型也存在稳定性方面的不足，容易被一些小的扰动数据攻击而导致出现明显的错判。因此，未来要想使人工智能及相关技术在国家治理领域发挥更大功效，需要进一步研发出一些新型设备和算法，在充分利用人工智能优势提升治理能力的同时，实现对伪造或虚假数据攻击的有效防御。
人机协作失衡。另外，人工智能在治理领域的应用并不意味着其能完全取代人在治理现代化进程中的角色，尤其是在当前我们对人类智能还没有完全参透的前提下。在治理过程中，完全依赖人或完全依赖机器这两个极端的情况都存在潜在的重大风险。比如2014年马航MH370事件，就是过分相信飞机驾驶员的结果；而2019年3月发生的埃航坠机事件，则是过度依赖飞机的自动驾驶系统，致使机器在出现高度误判后驾驶员无法接管，从而导致了机毁人亡的惨痛事故。因此，如何更好平衡人类智能与机器智能，实现人类智能与机器智能的有效融合，将是未来更好发挥人工智能在国家治理中作用的重要努力方向。
总之，人工智能是把双刃剑。它可以基于自身特性提升治理现代化的水平，保证治理过程的效率与公平，提高治理效能，并提升老百姓的获得感、幸福感。但同时，人工智能在隐私保护、数据有偏、数据可信度等方面存在的潜在风险，可能对社会稳定、人民安全等带来负面影响。还要提醒的是，人工智能在很多方面还没有完全达到人类的智能水平，因此借助人机混合的混合增强智能实现对治理现代化的助力，有可能是更为有效的治理模式。
【本文作者为复旦大学计算机科学技术学院教授；本文受“教育部指导高校科技创新规划项目”支持】
责编：李 懿 / 司文君