AI变脸源于深度伪造技术，利用“对抗生成网络”模型，以生成模型和判别模型之间的持续对抗博弈，不断自我演进优化，实现快速迭代的“无监督学习”。AI变脸具有高度真实性、泛在普适性和快速演化性等特征。
AI变脸技术产生的风险
AI变脸技术其风险呈现出多样性发展态势。非法AI变脸生产出的虚假新闻、虚假广告等内容，经由不同平台的传播，以场景再现的技术优势，颠覆受众的已有认知，对伦理与道德提出挑战。AI变脸技术将原本极具真实性和现场感的多模态视频呈现变成了“镜花水月”，模糊真相与假象的界限，创造出虚拟世界，冲击民众对真实信息的信任，甚至会引发社会信任危机。AI变脸以“数字嫁接”创造加工出包括“数字虚拟人”的高仿真虚拟场景，民众生活在虚拟与现实交织的世界，导致真实自我在现实社会中的认知迷失。此外，AI变脸通过深度伪造，以“混淆视听”的虚假叙事，冲击民众心理，侵蚀社会信任，扰乱政治舆论生态，AI变脸既可突破对方基于生物特征的身份认证体系，窃取情报信息，又可伪造突发事件，发布虚假信息，制造舆论恐慌。
如何规避AI变脸技术所引起的风险
AI变脸技术风险的规制涉及范围广、领域宽、内容多，蕴含活力与秩序、自由与安全、责任与信任等诸多方面，是一项复杂的系统工程。要强化高位统筹、顶层设计、系统谋划、整体推进，以数据算法、合作共治、信息保护、法律法规等维度的同向发力、良性互动，聚力推进AI变脸技术异化治理体系的构建创新，有效管控风险，提升整体治理效能。
以数据算法为基石，深化从源头治理。算法既是AI变脸的技术核心，又是其生成路径。智能算法具有的数据共享、自主学习、封装移植等特质，将普通民众彻底隔绝在信息内容的生产、过滤、推荐链条外，引致产生与AI变脸天然契合的“算法黑箱”。规制AI变脸技术的风险，要强化算法治理。强化主流价值引领算法，将其嵌入到AI变脸技术发展的全生命周期，引导算法设计者、信息分发者坚持正确价值取向，引导算法应用向上向善。构建算法数据库，收录AI变脸技术的生成算法、识别算法和检测算法等模型，以溯源防伪、反向破解辅助识别判定AI变脸作品，并将其同步收录数据库，通过样本的累积迭代，提升比对判定能力。优化传播媒介平台内部算法，构建事实核查、分级检测和分级推荐机制，强化外部算法治理，协同优化算法的准入、监督、投诉和评估等配套制度体系。
以合作共治为架构，推进协同治理。AI变脸技术异化的规制蕴含组织与制度等多元要素，应秉持审慎、理性、权衡和预防的原则，在网络化、包容性、无缝隙的协作框架下聚智共谋，推进协同治理。要秉持合作精神，培育共治价值，优化完善合作治理、共同治理机制，在规章制度框架内，通过资源整合、功能互补，寻求最大“公约数”，驱动AI变脸技术风险治理由点状分散向融合交互跃迁。要以主体跨域协同、路径集成协同、信息交互协同为路径，优化协同治理界面，贯通政府部门、传播平台、技术开发、产品制作、网络用户的责任传导链条，创新协同治理，提振治理质效。强化政府部门、社交平台、科研院所的良性互动，厘清权责关系，破除壁垒、疏解堵点、理顺机制、畅通渠道，共同开发检测审查AI变脸的技术算法，画好协同治理“同心圆”，共同应对AI变脸技术风险。
以信息保护为支撑，构筑立体屏障。生物识别信息具有人身表征性、不可替代性特点，既是AI变脸的原始材料，也是基础根基。AI变脸技术异化的风险规制，应以“隐私控制”为原则，构建从收集到存储再到应用的多维立体保护体系。AI变脸技术使用者采集面部识别信息时，应秉持知情同意、目的限制、正当诚信、必要安全的基本原则，严格遵守个人信息保护法中基于“特定的目的和充分的必要性”“取得个人的单独同意”的条款规定。细化采集入库规则，建立媒介平台动态征询和信息披露机制，基于适度透明、隐私侵犯最小化原则收集信息。完善保管存储规则，媒介平台应采取加密技术，隐名化、匿名化储存用户生物识别信息，严格限定储存期限和敏感应用场景。丰富加工利用规则，制作者、上传者对原始视频采用语音标识、数字水印等方式进行信源标注，优化信息公开、转让，确保检测核查有据可循。
以法律框定为红线，厘清技术边界。秉持“技术—经济—社会”的模式，兼顾必要的社会面向，平衡调和公共利益和个人权益之间的张力。持续完善行政与民事相结合的法律规制体系构造，健全法律规制体系的层次性和梯度性，回应AI变脸技术异化导致法益侵害复合化，为技术发展提供方向指引。在2023年1月10日施行的《互联网信息服务深度合成管理规定》的基础之上，进一步厘清AI变脸源头制作者的法律责任，细化AI变脸可能带来的侵权行为，做好追踪溯源。构建要素上贯通生产、使用、维护、监管等节点，内容上统合审查、商议、监督、互动机制的法律规范框架体系。加大平台处罚力度，增设传播媒介平台的技术检测义务和过滤删除的“守门人”责任，以疏堵结合的策略，细化不同场景应用的法律规制，以法律为AI变脸框定红线。
