全国两会期间，小米集团创始人雷军提出了一项针对“AI换脸拟声”技术滥用问题的治理建议，引发了广泛关注。
雷军指出，随着人工智能深度合成技术的快速发展，“AI换脸拟声”技术已在多个领域得到广泛应用。然而，这一技术的滥用现象日益严重，成为违法侵权行为的高发区，对构建健康的人工智能发展生态构成了严重威胁。
作为受害者之一，雷军分享了去年国庆假期期间，网络上流传的各种“雷军语音包”，其中不乏恶意吐槽和辱骂内容，给他带来了极大的困扰。尽管他发布视频呼吁停止恶搞，但此类侵权行为仍然屡禁不止。
事实上，受到“AI换脸拟声”技术侵害的并非雷军一人。演员刘晓庆也发文称，有网友向她反馈，有人在视频号上利用AI技术假冒她发布视频。从网友分享的截图可见，该账号发布的视频均利用刘晓庆的形象与声音通过AI生成，虽然部分视频标注了“内容为AI技术制作”，但仍有未标注的视频，令人难辨真假。
刘德华也遭遇了AI伪造视频的侵害。一些营销账号为了博取眼球和流量，通过拼凑视频素材和AI伪造视频，宣称刘德华在演唱会上为电影宣传，并承诺向粉丝赠送电影票。这些虚假视频让不少网友信以为真，对刘德华的声誉造成了一定影响。
“AI换脸拟声”技术本身具有巨大的应用潜力，在影视制作、教育、医疗等领域都能发挥重要作用。然而，当这项技术被不法分子恶意利用时，就会变成侵犯他人权益、扰乱社会秩序的“凶器”。它不仅侵犯了公众人物和普通人的肖像权、名誉权，还可能引发公民个人信息泄露和诈骗等严重犯罪行为。
为了有效遏制“AI换脸拟声”技术的滥用现象，雷军提出了多项具有针对性和建设性的建议。他呼吁加快人工智能单行法的立法进程，明确“AI换脸拟声”技术的应用边界和红线，完善侵权证据规则，并加大对利用人工智能技术实施犯罪行为的刑事处罚力度。
同时，雷军还建议加大AI方面的普法宣传力度，提高民众的警惕性和鉴别力。他提出在中小学人工智能教材中加入伦理规范内容，并在老年人聚居的社区开展知识普及活动，以增强全社会对“AI换脸拟声”技术滥用问题的认识和防范能力。
为了营造健康、安全、有序的网络环境和人工智能发展生态，需要法律、行业、平台和民众等多方面的共同努力。法律层面应加快完善相关法律法规，填补法律空白；行业方面，企业应强化自律意识，加强技术研发的合规审查；平台需切实履行主体责任，加强对内容的审核管理；民众自身也应提高辨别能力和法律意识，遇到侵权行为及时举报。
