全国人大代表、小米集团创始人雷军，在2025年全国两会上提出了五项重要建议，其中一项聚焦于“AI换脸拟声”技术的滥用问题，这一技术虽在影视、广告及社交领域广受欢迎，却也成为违法侵权行为的频发地。
雷军在其个人公众号上阐述了对这一问题的深刻见解。他指出，人工智能深度合成技术的迅猛发展，确实推动了“AI换脸拟声”技术的广泛应用，使其成为一种备受欢迎且传播力强大的技术。然而，不容忽视的是，该技术的不当使用已导致大量违法侵权行为，严重侵犯了个人肖像权、公民个人信息，甚至引发了诈骗等犯罪行为，这对构建健康的人工智能发展生态构成了威胁。
雷军建议，针对“AI换脸拟声”技术的滥用问题，应从三个方面着手解决。首先，应加快相关单行法的立法进程，确保在安全与发展的双重考量下，提升立法的层次和效力。其次，强化行业自律，明确平台企业等各方的责任和义务，共同治理这一问题。最后，加大普法宣传力度，提高公众的警惕性和鉴别能力，以有效防范相关风险。
实际上，雷军本人也曾深受“AI换脸拟声”技术滥用的困扰。去年国庆假期期间，有人利用AI技术捏造雷军的配音，制作所谓的“雷军语音包”，在网络上广泛传播。这些语音包内容多样，从吐槽假期到骂人，应有尽有，给雷军带来了不小的困扰。为此，雷军还专门发布视频，呼吁大家停止恶搞。
法律专家指出，未经本人同意，利用AI技术编辑、合成他人的视频、声音，并用于恶意传播，如果达到以假乱真的程度，将构成对他人肖像权、声音权和名誉权的侵犯。去年以来，相关部门已出台多项规定，加强对AI合成技术的监管。例如，2023年国家网信办、工信部、公安部联合发布的《互联网信息服务深度合成管理规定》明确要求，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。
2024年网信办发布的《人工智能生成合成内容标识办法（征求意见稿）》也提出，对AI生成合成内容要进行标识，以便公众识别和区分，防止误导性信息的传播。这些规定的出台，为打击“AI换脸拟声”技术的滥用提供了有力的法律武器。
雷军在两会上的这一提议，无疑是对当前“AI换脸拟声”技术滥用问题的一次深刻反思和积极应对。随着相关法律的完善和监管力度的加强，我们有理由相信，这一问题将得到有效的解决，人工智能技术的发展将更加健康、有序。
