【摘要】人工智能是引领新一轮科技革命和产业变革的战略性技术，能够推动人类社会整体发展飞跃。近年来全球人工智能技术呈现出发展速度快、应用范围广的特征，以习近平同志为核心的党中央审时度势，对人工智能技术的健康发展高度重视，及时部署，并就我国人工智能健康发展若干关键原则作出重要论述。抓住人工智能技术发展的重大历史性机遇，应坚持以人为本、引导智能向善，积极推动人工智能立法立规，促进人类文明与人工智能的友好协同。
【关键词】人工智能 战略机遇 智能向善 技术风险
【中图分类号】F204 【文献标识码】A
当前，全球人工智能技术正处于飞速发展期，尤其是自2023年以来，以生成式大模型为代表的新一代人工智能技术正在快速迭代并以迅猛的态势向各行各业渗透。从长远来看，人工智能技术的出现及其表现出来的巨大潜力，将使人类社会产生深刻变革，也将给人类社会带来重大的历史转型。
习近平总书记强调：“我国经济已由高速增长阶段转向高质量发展阶段，正处在转变发展方式、优化经济结构、转换增长动力的攻关期，迫切需要新一代人工智能等重大创新添薪续力”“发展人工智能，将为我国构建现代化经济体系、实现高质量发展提供重要支撑”。在这样的重要历史时期，中国何去何从，不仅关乎当今中国的经济社会发展、人民生活改善，而且事关中华民族伟大复兴的宏业。面向未来，人工智能技术既要快速发展，同时又要确保持续健康发展。以习近平同志为核心的党中央审时度势，及时作出了一系列关于人工智能健康发展的具有前瞻性的重大决策部署和重要论述，为我国发展人工智能提供了行动指南和根本遵循。我们要把握其中的指示精神和重要原则，抢抓人工智能健康发展的历史性战略机遇。
人工智能是引领本轮科技革命和产业变革的战略性技术
关于人工智能技术的重要价值，习近平总书记深刻指出：“人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的‘头雁’效应” “加快发展新一代人工智能是我们赢得全球科技竞争主动权的重要战略抓手，是推动我国科技跨越发展、产业优化升级、生产力整体跃升的重要战略资源”。
从历史来看，人类科技的发展呈现出两个明显规律：一是短期的技术跃升和长期的技术平台期相结合；二是技术跃升往往由若干核心技术成果驱动。
第一条规律描述的是人类文明的发展往往呈现出在一个很短的时间内实现密集的重大技术飞跃，文明由此进入到一个新的阶段，随即就会进入到一个较长时间的相对平稳期，直到下一次技术革命的到来。因此，人类文明的技术进步不是缓慢的线性的，而是阶段性跳跃的。习近平总书记所指出的“这一轮科技革命和产业变革”，正处于这种阶段性跳跃时期。
第二条规律是指在历次技术革命中，有一些技术往往起到了关键性的驱动作用，成为技术革命的核心推动力量，也成为文明进化的关键驱动。从人类历史来看，早期人类向文明迈进的三项关键性技术是使用火、进行农业种植和使用金属。进入近现代后，第一次工业革命的核心驱动技术是蒸汽机，第二次工业革命的核心驱动技术是电动机和内燃机。二战后则是以核能、计算机、航空航天技术为核心技术。而当前新一轮科技革命，同样体现出这一特征，其核心技术包括互联网、大数据、人工智能等新一代信息技术以及如生物技术、新材料技术、太空技术等，但最具有革命性和普遍性的技术则是人工智能。可以说，从现在开始到未来几十年，人类整体的社会结构转型和文明升级就是主要沿着人工智能技术引发的一系列变革展开。这也就是习近平总书记所指出的“人工智能是引领这一轮科技革命和产业变革的战略性技术”。
要进一步理解这一点，还需要从人工智能技术的三个基本特性入手：一是智力替代性。人工智能是人类历史上第一次新的智力资源的大规模开发应用。以往所有的劳动工具革新，都是对人的体力劳动的替代，直到计算机的出现才开始对人类智力劳动进行一些替代，然而人工智能展现出了能够深层次高质量替代人类智力劳动的能力。二是通用性。现有的大模型人工智能已经展现了广泛的应用空间和巨大的应用潜力，因此被迅速部署在当前人类正在从事的各行各业中。例如，由AlphaGo发展而来的AlphaFold在短时间内分析完成了2亿个蛋白质结构，而传统上人类分析一个结构就需要数年之久，这远超传统人力的想象。三是具有新的主体性特征。尽管对于人工智能是否会演进产生主体意识这一问题目前还没有明确的答案，但是现有的多模态大模型人工智能的确可以表现出与人类相似的特征，因此可以扮演各种角色充分融入到人类社会中，从而既推动产业变革，也引发社会变革。这三个特征，都体现出了人工智能技术具有战略性引领作用。
在人工智能领域关键核心技术占领制高点
正因为人工智能技术如此重要，中国必须要自主掌握好这一技术。习近平总书记指出：“确保我国在人工智能这个重要领域的理论研究走在前面、关键核心技术占领制高点。要主攻关键核心技术，以问题为导向，全面增强人工智能科技创新能力，加快建立新一代人工智能关键共性技术体系，在短板上抓紧布局，确保人工智能关键核心技术牢牢掌握在自己手里。”
科学技术本质上是没有国别区分的，但是掌握技术的主体却是有国别的。在农业文明时期，中华文明是世界最繁荣璀璨的文明之一。而工业革命后，西方国家凭借着工业革命带来的先发技术优势，利用船坚炮利在世界范围建立了殖民体系。与之相对的，则是清朝因为错失了工业革命而成为了相对落后国家。因此，任何一场重大的科技革命和产业变革，都往往意味着文明格局的变化和世界秩序体系的调整。要实现中华民族伟大复兴，就不能错过此后任何一次人类重大科技革命，甚至要引领人类的科技革命。
人工智能技术发展的关键要素包括算法、算力、素材三者。先说素材方面，我国由于政策支持力度较大，全社会数字化程度较高，各行业应用人工智能较广，同时也因为我国人口众多，因此在训练人工智能的素材积累上具有优势；在算力方面，虽然我国的高性能芯片技术被个别国家围追堵截，但是依然可以通过堆叠技术等方式实现突破；而在算法方面，其已然成为当前人工智能发展的焦点，美国具有先发优势，我国亦具有巨大的后发潜力。因为发展算法，最重要的是要依靠人才。习近平总书记指出：“培养大批具有创新能力和合作精神的人工智能高端人才，是教育的重要使命。”目前，我国在理工信息类人才培养方面居于世界领先地位，并且进一步加强了人工智能通识教育。正是得益于人才储备优势，在近两年ChatGPT崭露头角后，我国在生成式人工智能领域迅速实现追赶，形成“千模涌现”的发展势头。
人工智能也带来一系列难以预知的风险挑战
历史证明，在人类发展过程中，新技术应用往往具有两面性，能够在推动生产力发展的同时，也带来新的风险和挑战。正如习近平总书记指出：“当前，新一轮科技革命和产业变革迅猛发展，人工智能等新技术方兴未艾，大幅提升了人类认识世界和改造世界的能力，同时也带来一系列难以预知的风险挑战。”
由于人工智能技术能力强大、通用性强，未来会逐渐渗透到人类社会各个方面。因此，也将在多个层面给传统人类社会带来各种风险与挑战。这些风险挑战可大致分为以下几个方面：
一是隐私泄露。传统人类社会的自由很大程度上是建立在自然个体的隐私保护基础上的，当全社会数字化程度提高后，加之人工智能对数据的分析，使得传统人类自由的基础——隐私逐渐消散。任何一个智能设备从某种层面讲都具有记录和监视功能，人脸识别、声纹分析、各种交叉信息的智能识别都使得人们很难再拥有完整的隐私。
二是劳动替代。人工智能是一种人类从未接触过的强大的新的劳动力量，兼具客体工具属性和社会主体属性，能够在一定程度上自主完成相当高难度的复杂工作。因此，几乎所有的行业都面临着人工智能的劳动替代问题。劳动替代对于资方而言意味着成本下降和效益提升，而对于普通劳动者而言则意味着可能面对失业问题。
三是深度伪造。人工智能可以迅速高质量地合成出极为逼真的影音图像，如不加管制，产生的伪造风险可能对自然人主体和社会秩序产生负面的侵害和冲击。
四是法律体系可能面临失效风险。如前所述，人工智能兼具客体工具属性和社会主体属性，其大规模参与到社会中，就容易产生传统法律难以规制的问题，特别是一旦其权力主体属性不明确，相应的法律规范也可能面临失效风险。例如，自动驾驶车辆如果出现事故，责任该由谁承担？
五是行业边界的模糊。人工智能强大的学习与进化能力，使其具有很强的跨行业边界的能力。一家高水平的人工智能公司会渗透到社会的各个行业，改变着这些行业的运行模式。这对于长期形成的社会分工体系本质上是一种颠覆。
六是暴力扩散。人工智能可以很方便地与传统武器结合形成新的智能武器体系，从而改变战争形态。人工智能的军事化具有潜在的高危险性，因为其鼓励人工智能从事伤害人类的行为，从而加大人工智能的风险水平。
七是伦理问题。人工智能一旦大规模进入社会各个层面，如大范围应用人形机器人，势必形成对传统单一以人类为唯一主体的社会体系的巨大冲击。一些过去不曾遇到的新问题会出现，例如，人工智能伴侣的法律地位问题等。
八是失控风险。人工智能有可能会失控，这并非一个科幻性质的猜测。从现有大模型的原理和表现来看，人工智能模型是由大量数据学习训练出来的，而非人类编辑或设计出来。因此，极有可能会出现“错误”或“幻觉”，也有可能出现类似人类的情绪和排斥行为，还有可能被错误训练引导。因此，不排除人工智能存在失控风险，必须高度警惕。
综上所述，人类在发展人工智能的时候，必须要看到且直面人工智能可能产生的风险挑战，从而确保人工智能真正符合人类社会的发展需要。
坚持“以人为本、智能向善”的人工智能发展原则
正因为人工智能存在安全隐患和风险挑战，在人工智能快速发展的初期，就需要确立好其根本的治理原则。习近平总书记指出：“要未雨绸缪，加强战略研判，确保人工智能安全、可靠、可控”“坚持以人为本、智能向善”。
人工智能要以人为本。人工智能要以增进人类福祉为目标，以保障社会安全、尊重人类权益为前提，确保人工智能始终朝着有利于人类文明进步的方向发展。坚持以人为本，即人工智能的发展要围绕人们紧迫的民生需求展开。正如习近平总书记指出：“要加强人工智能同保障和改善民生的结合，从保障和改善民生、为人民创造美好生活的需要出发，推动人工智能在人们日常工作、学习、生活中的深度运用，创造更加智能的工作方式和生活方式。”未来，人工智能在辅助人们生活方面将发挥更大作用，特别是对于残障人士，人工智能将帮助他们克服身体的困囿；而对于大多数人而言，人工智能将在日常的翻译对话、知识获取，工作中的辅助建议，生活中的智能家居、自动驾驶、辅助劳动，休闲娱乐甚至情感交流等方面，极大丰富人们的生活。
人工智能要智能向善。人工智能的发展不能单兵突进，只讲经济效益不讲社会公平。人工智能由于具有远超过普通劳动者的劳动能力，能够极大降低企业成本，将逐渐在各个行业掀起一场科技赋能、机器换人的潮流。人工智能的开发利用，要确保不能产生大规模的失业潮。人工智能发挥劳动替代作用，要优先用在危急险重的行业，而非让人工智能在普通人就能够非常擅长的领域重复发力、简单替代。任何企业尤其是大型平台企业在进行人工智能劳动替代时，要考虑增设相应的岗位，最大程度保持岗位破坏速度与岗位创造速度的同步性。此外，智能向善还要求人工智能的研发、提供和使用活动，不能影响或可能影响国家安全、公共利益或者个人、组织合法权益，这就需要更为完善的科研伦理的自律以及法律法规的约束。这也是人工智能持续健康发展、实现人机和谐的必由之路。
加强人工智能国际合作治理
人工智能技术由于其具有广泛适用性和快速扩散性，同时也具有风险全球化与治理分散化的特征，因此，有效治理人工智能不可能由单一国家独立完成。习近平总书记指出：“要加强人工智能国际治理和合作，确保人工智能向善、造福全人类”。
中国在推动人工智能治理方面，已经做了很好的先行尝试，例如，2023年7月率先推出的《生成式人工智能服务管理暂行办法》，是全球最早全面监管生成式人工智能的政策文件，为推动生成式人工智能向上向善发展提供了细致具体的实施标准。但人工智能的监管和治理还要依靠国际共同合作来解决。这是因为，从根本上说，当前人工智能在开发与传播上具有以下几个特点：一是开放性和迅速的扩散性。越来越多的大模型选择了开源模式，这使得研发高性能人工智能变得更加容易，因此，人工智能技术在世界范围内的传播比以往的技术传播更快，也更容易掌握。二是高收益性，人工智能将极大提高经济社会运行效率、降低各方面成本，促进经济增长。因此，众多企业包括跨国公司、网络巨头等都有较强的意愿采用人工智能技术。三是人工智能是一个国家提升国际竞争力的重要手段，当前大部分国家都有动机去通过人工智能获得竞争优势。这三个特性相结合，使人工智能的治理成为一种单一国家不能独立完成的任务。比如说，一旦某一国家对人工智能进行区别于他国的较为严苛的治理，那么跨国公司就会迅速将技术转移到他国，导致本国或地区的竞争力受损，以欧洲为例，当前欧洲较为严苛的数据治理环境，使其在人工智能国际竞争中处于相对劣势。
因此，面对人工智能可能产生的众多风险，开展广泛有效的国际治理合作具有必要性。应使人类共同正视人工智能的风险，形成对于人工智能治理的价值共识，并共同采取较为一致的关于人工智能的伦理和法律规范，实现全球范围的协同共治。这类似于人类对于核武器的管控，只有在全球范围内形成一整套安全治理机制和监管体系，以及相关问题的磋商和谈判机制，才能有效降低整个世界的风险挑战。
当前，推动人工智能国际合作治理主要困难包括两方面：在价值层面，如何更大程度上形成对高性能人工智能的风险共识；在主体层面，如何形成包括国际组织、国家地区主体、网络巨头、跨国公司、科研教学机构等在内的一个巨大的人工智能治理共同体。前者需要更多的科研机构、学者、媒体、科学家、企业家、政治家的共同的呼吁；后者则需要各主体深入研究、协同合作，形成完整的合作治理机制。
当前正处于人类全面进入通用人工智能时代的关键历史时期，我们要深刻领悟习近平总书记关于推动人工智能健康发展的重要论述，清楚认识到人工智能技术的战略性意义，既要抓住人工智能技术发展的关键时期，自主掌握关键技术，也要抓住治理引导的关键时期，促进全球治理的国际合作，推动新一代人工智能健康发展，更好造福世界各国人民。
（作者为中共中央党校（国家行政学院）国家治理教研部教授、博导）
【参考文献】
①习近平:《加强领导做好规划明确任务夯实基础 推动我国新一代人工智能健康发展》，《人民日报》，2018年11月18日。
②《习近平向国际人工智能与教育大会致贺信》 ,《光明日报》，2019年5月17日。
③《习近平向联合国贸易和发展会议成立60周年庆祝活动开幕式发表视频致辞》，《人民日报》，2024年6月13日。
④何哲：《人工智能技术的社会风险与治理》，《电子政务》，2020年第9期。
责编/谷漩 美编/李祥峰
声明：本文为人民论坛杂志社原创内容，任何单位或个人转载请回复本微信号获得授权，转载时务必标明来源及作者，否则追究法律责任。
