电信网络诈骗是发案最高、损失最大、群众反映最强烈的违法犯罪行为之一。近日，利用AI技术制作换脸视频、合成声音等，冒充亲友、同事的电信网络诈骗案件不断出现。例如，在有的案例中，诈骗分子通过使用他人真实姓名及照片，冒充他人身份添加被害人社交账号，再利用“AI换脸”技术和被害人进行短暂视频通话，博取被害人信任后实施诈骗；在有的案例中，诈骗分子通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而用伪造的声音与被害人通话并实施诈骗；等等。在这些案例中，不法分子凭借其迷惑性极强的诈骗形式、精准的诈骗脚本、逼真的伪造音视频，让人防不胜防，引起了社会的关注与警觉，成为电信网络诈骗治理新的痛点难点。
当前，应当在深入研判AI诈骗违法犯罪行为新规律新特点的基础上，有针对性地综合施策，进一步完善法律法规、延伸行业管理范围、提高技术反制能力。
明确各方责任，强化对各类电信诈骗违法犯罪行为的监管。当前，我国反电信网络诈骗法规定了电信业务经营者、互联网服务提供者在防范电信诈骗方面的法律责任。今年初，国家互联网信息办公室发布的《生成式人工智能服务管理办法（征求意见稿）》也对数据合规性、生成内容合法性提出了进一步要求。但这些规定对新型电信网络诈骗的规制作用仍然存在局限。一方面，以AI诈骗为代表的新型电信网络诈骗呈现出更为明显的链条化、平台化作案特征。例如上游黑产提供各种基于人工智能技术的专用设备工具、算法，为下游电信网络诈骗源源不断地提供技术支持，危害巨大。在这个产业链中，不法分子利用互联网以提供服务的方式分工配合，使得诈骗案件发生时，位于上游的不法分子有可能以自己不知情来规避法律风险。因此，法律必须关注电信网络诈骗的这一特征，进行更有针对性的制度设计，清晰划定各个犯罪节点的法律责任。另一方面，《生成式人工智能服务管理办法（征求意见稿）》作为一个行业管理办法，位阶较低，规制的范围有限，不足以对层出不穷的涉人工智能违法犯罪行为进行全面有效的约束和管理，需要进一步为AI技术使用划定“红线”。
加大打击力度，以严厉手段惩处震慑不法分子。随着人工智能技术在电信网络诈骗领域的不断应用，不法分子实施诈骗的精准性、迷惑性、隐蔽性大大加强，直接导致公安和检察机关的侦查打击难度进一步加大，人工智能诈骗治理工作所面临的“侦查破案难、电子证据调取难、认定处理难”等一系列问题更加突出。有关部门应加大执法力度，对那些未经肖像权人同意，通过技术手段提取肖像，或利用换脸软件从事违法犯罪活动者，采取刑事责任、行政责任、民事责任并重的措施，及时追究其法律责任，并深挖其背后的黑色产业链。强化惩处力度的同时，及时总结提炼新型电信网络诈骗的新特征、新模式，通过树立一批大案、要案来震慑不法分子，彰显法律权威。
开展前端防范，切断AI诈骗的“数据喂养”。公民个人信息是电信网络诈骗的生产资料，与传统诈骗方式相比，AI诈骗还涉及人脸、声纹等生物信息。虽然科技的进步让防范电信网络诈骗的难度提升，但电信网络诈骗频出的根本原因还是信息时代用户个人隐私信息过度泄露，其本质上是不法分子掌握大量技术后，利用信息不对称来骗取钱财的行为，背后还隐藏着窃取个人信息、提供技术支持、进行转账洗钱等上下游犯罪，亟待从根子上予以斩除。要着重开展前端防范，通过不断提高堵截能力，让诈骗软件下不了、诈骗网站登不上，持续完善有关管理制度，防止违法获取个人信息。此外，可通过技术分析网络用户的行为特征、活动频率、会话长短，揪出可疑的社交机器人，对网络诈骗上游进行清理；通过在线监测报警，对网络有害信息采取风险标注、拦截提示、搜索屏蔽等措施，从源头阻断网络黑灰产触达用户；提供在线检测工具，帮助用户识别AI换脸、变声；等等。
强调协同联动，共同打造安全可靠的AI技术生态。电信网络诈骗涉及金融、通信、互联网等多个行业，要实现治理效果最大化，对各部门的协同配合提出了很高要求，只有通力协作、综合治理，才能堵塞监管漏洞，实现“事前发现、事中阻断、事后打击”。除进一步协调好执法机构之间的决策职能外，还需要明确金融、电信、互联网等行业的监管责任，通过建立健全安全评估、责任追究、信用惩戒等制度，共同推动打击治理工作取得更大成效。电信、互联网企业应加强内部监管，技术研发方面需要加强自律和伦理规范。在对外输出AI技术应用时，须遵循道德和法律的底线，确保技术的合法使用。同时加强投资和支持安全技术的研发，共同打击AI换脸和换声技术滥用行为，为行业健康有序发展付出努力。银行、支付机构等在反诈工作中要承担风险防控责任，建立内部控制制度和安全责任制度，共同打造一个安全可靠的AI技术生态，加强跨领域的合作与交流，共同研究和应对技术的潜在风险。此外，还要持续对老年人、青少年等重点人群开展防骗教育，提高人民群众识骗、防骗、拒骗的意识和能力。
