网站首页 | 网站地图

大国新村
首页 > 中国品牌 > 品牌智库 > 正文

生成式人工智能如何治理

自从2022年11月ChatGPT发布以来,掀起了生成式人工智能研究与应用的热潮。作为新型人工智能技术,生成式人工智能今年持续升温,引发了社会各界的广泛关注。2023年7月13日国家网信办联合国家发展改革委、教育部、科技部等7部门发布了《生成式人工智能服务管理暂行办法》(以下简称《办法》),该《办法》已于8月15日开始正式施行,这是我国首次对生成式人工智能研发与服务作出明确规定,也是全球首部针对生成式人工智能进行监管的法律文件。和以往的人工智能技术相比,生成式人工智能体现出强人机交互、强语料依赖等典型特征,在技术发展与风险控制两方面均存在很多问题与挑战,亟须人们对其进行深入的研究。

何为生成式人工智能

人工智能按其模型可以划分为决策式人工智能和生成式人工智能。决策式人工智能是一种用于决策的技术,它利用机器学习、深度学习和计算机视觉技术来处理专业领域的问题,并帮助企业和组织优化决策。生成式人工智能则是一种用于生成新内容的人工智能技术,由于在大模型、大算力、训练方法等多方面都实现了技术突破,它可以使用语言模型、图像模型和深度学习等技术,自动生成新的文本、图片、音频和视频内容。生成式人工智能实现了高质量、高效率、多样化的内容生产,成为推动数字生产力变革的重要力量。目前,在应用方面,生成式人工智能的产业链逐步形成:其上游包括数据供给方、算法模型机构、创作者生态以及底层配合工具等;中游包括文字、图像、音频、视频等数字内容的处理加工方;下游则主要是各类数字内容分发平台、消费方及相关服务机构等。在教育、金融、医疗、工业等领域,生成式人工智能可以加快数实融合,促进产业升级提速,实现金融资讯、产品介绍视频内容的自动化生产,并且能够支持生成衍生设计,实现降本增效。生成式人工智能作为生产工具和新兴生产力的角色愈加重要。

生成式人工智能带来巨大机遇和挑战

综观2023年上半年国内外重大科技发展趋势和投资热点,生成式人工智能成为最引人注目的技术之一。生成式人工智能不仅对全球经济产生重要影响,也为各行各业的发展带来了新机遇。其中,零售和消费品行业、银行业、制药和医疗产品三个行业的发展潜力最大。目前,我国开发的大规模语言模型已经有80余个,参与模型开发的主要有大型科技公司、高等院校以及电信设备制造商等。截至今年5月,据不完全统计,国内已有超过40家公司、机构发布了生成式模型产品或公布了生成式模型研发计划。大模型项目数量的爆发式增长,显示出生成式人工智能服务在我国迅猛发展的态势。生成式人工智能在商业领域的应用跨越了企业组织边界,深度集成到现有组织工作流程和系统中,对客户服务、供应链和网络安全等领域的关键业务流程进行重构,形成了有影响力的新模式、新业务。在生成式人工智能赋能下,生物制药、制造、材料科学等领域开始改变业务流程。生成式人工智能推动了利用与开发海量数据价值的进程,在信息生成、编辑和迭代方面,能够高效收集、整合各类数据,自动生成文本内容、图像。据预测,到2025年,大型企业机构对外营销信息中的合成信息比例将上升到30%;到2030年,主要影视作品中人工智能生成内容的比例将上升到90%。

生成式人工智能虽然发展迅速,也一直面临着各种挑战,在生成方面经常被人诟病的包括内容不准确、可行性不高、文本直接拼凑,缺乏逻辑性等问题。此外,生成式人工智能的发展在提高人们工作效率的同时,也会衍生严重的失业问题。今年3月发布的一份研究报告显示,全球预计将有3亿个工作岗位被生成式人工智能取代,其中律师和行政人员将是最有可能被裁员的岗位。对体力要求较高的职业或户外职业受到影响较小,例如建筑和维修行业。生成式人工智能对原有的法律规定也提出了挑战,就生成式人工智能而言,在法律领域产生的最大挑战就是潜在的各种侵权纠纷。生成式人工智能的生成能力来自数据和模型,而数据来源本身可能就会产生侵犯他人著作权、肖像权、名誉权、个人信息等多项权利的风险。

总体而言,生成式人工智能目前还处于起步阶段,应用前景尚不明朗,应当客观看待其发展规律,为新业态、新技术发展营造包容审慎的监管环境,以此进一步激发市场活力和社会创造力。

人工智能治理的中国方案

2023世界人工智能大会提供的数据显示:我国人工智能产业蓬勃发展,核心产业规模达到5000亿元,企业数量超过4300家,创新成果不断涌现。生成式人工智能的发展,标志着人工智能正在从专用智能发展到通用智能,进入了崭新的发展阶段。中央政治局4月28日召开会议明确指出,要重视通用人工智能发展,营造创新生态,重视防范风险。相信随着《办法》的实施,生成式人工智能在各领域的发展和应用将会更加健康规范。面对技术发展带来的机遇与挑战,《办法》在制度创新的基础上,既重视信息内容安全,也从多方面推进技术产业发展,不仅为国际人工智能的治理实践提供了中国方案,也为我国人工智能立法作出了积极有益探索。《办法》对生成式人工智能坚持发展和安全并重、促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能创新发展,对生成式人工智能服务实行包容审慎和分类分级监管。对于生成式人工智能的数据来源,《办法》规定,要推动公共数据分类分级有序开放,扩展高质量的公共训练数据资源,鼓励采用安全可信的芯片、软件、工具、算力和数据资源。《办法》旨在维护国家安全、社会公共利益、公民合法权益的同时,用科学合理的措施进行监管,推动人工智能产业朝着积极健康的方向发展。

尽管目前国内外生成式人工智能在大模型开发、应用布局、商业模式等多个领域都存在较大差异,但相信未来我国相关技术和应用将逐渐成熟,并会进一步探索出适合自身发展的商业模式。生成式人工智能的健康发展有赖政府、企业、社会、网民等多方参与,共同促进,唯有如此才能使这项颠覆性技术更好地造福人民。

[责任编辑:潘旺旺]