近期，人工智能深度合成技术，特别是“AI换脸拟声”功能，在影视创作、广告宣传及社交媒体等领域迅速普及，成为备受瞩目的技术热点。然而，这一技术的滥用现象也引发了社会各界的广泛关注。
全国人大代表、小米集团创始人雷军在接受专访时透露，他本人也成为了“AI换脸拟声”技术的受害者，并强烈呼吁尽快立法，对这一领域进行重点整治。雷军指出，“AI换脸、AI拟声在网上的滥用已经成为一个严重问题。”
雷军在建议中详细阐述了“AI换脸拟声”技术的双重影响。一方面，它推动了技术的创新与应用，成为传播力强、易于成为热点的技术手段；另一方面，其滥用行为却成为了侵犯肖像权、公民个人信息以及诈骗等违法行为的温床，对社会治理构成了严重威胁。由于AI深度合成技术素材获取便捷、使用门槛低且侵权手段隐蔽，治理工作面临巨大挑战。
针对这一问题，雷军提出了多项具体建议。首先，他主张针对“AI换脸拟声”等典型问题，探索制定人工智能单行法，提高立法层级，明确技术应用的红线，完善侵权证据规则，并加大对利用AI技术实施犯罪行为的刑事处罚力度。其次，他强调应强化行业自律，压实平台责任，鼓励平台开发识别AI深度合成内容的技术，优化审核与举报机制，确保及时阻断不良内容传播。最后，他建议加强人工智能法制宣传教育，提升公众警惕性和鉴别力，特别是在中小学教材中加入伦理规范内容，并在老年社区普及相关知识，构建“以人为本、智能向善”的人工智能发展环境。
事实上，近年来，包括雷军、刘德华、张文宏在内的多位名人纷纷遭遇AI换脸拟声技术的恶意应用，这些以假乱真的视频极易误导公众。专家指出，相关法律法规已明确规定，未经授权，不得深度合成制作发布他人信息。然而，网络上仍存在众多换脸换声软件，尽管它们的使用门槛较高，但已有多起网店接单制作名人视频并发布的侵权行为发生。
据法律专家介绍，利用AI合成的名人音视频不仅侵犯了名人的肖像和声誉，还存在散布虚假信息的风险。例如，某知名游戏制作人因AI伪造的回应而引发广泛误解。针对普通人的音视频合成诈骗行为也层出不穷，未成年人和中老年人尤其容易成为受害者。
为了应对这一问题，国家相关部门已出台多项规定，要求对人工智能生成合成内容进行标识，以确保其在网络空间中的安全流通。例如，《互联网信息服务管理办法》和《网络信息内容生态治理规定》等法规均明确了信息发布的相关规定。同时，专家还提出，技术上可以对AIGC进行显式或隐式标识，以便检测和识别。
浙江大学研究员韩蒙表示，AI合成伪造与AI标识之间存在博弈关系。随着技术升级，国内团队正在研究隐式标识技术，这种标识肉眼不可见，但可通过特定检测手段显现，从而为打击AI滥用行为提供有力支持。
