近年来，AI深度合成技术引发的音视频侵权事件层出不穷，从对企业家雷军的恶搞，到假冒张文宏医生进行商品推广，乃至诈骗行为，这一技术滥用现象日益严峻。
早前有网友利用AI技术模仿刘德华的声音吸引流量，迫使刘德华的电影公司发布声明，警告公众警惕伪造声音的AI骗局。这一现象不仅限于个别案例，而是逐渐泛滥。
记者近期调查发现，AI深度合成音视频的制作门槛并不高。在某些电商平台，该技术已成为网店盈利的手段，消费者仅需支付几十元，即可定制名人的AI深度合成音视频。
更令人担忧的是，制作这些深度合成的声音和换脸视频并不复杂。网络上存在大量开源软件和工具，供用户下载并在个人电脑上使用。一些网络主播甚至开设直播课程，教授网友如何使用这些软件。
尽管这些软件在网络上易于获取，但它们的使用仍需一定的技术基础。不同的场景需要调整不同的参数，步骤繁琐。然而，短视频平台上众多主播的教学，使得这些技术逐渐普及。
针对电商平台使用AI深度合成技术制作并出售名人音视频的行为，专家指出，这已明确违反相关法律法规。未经授权，不得深度合成并发布他人信息，否则将承担法律责任。
根据《中华人民共和国民法典》及国家网信办、工信部、公安部发布的相关规定，利用信息技术伪造他人声音、肖像等行为均构成侵权。2024年网信办发布的征求意见稿也提出，对AI生成合成内容需进行标识，以防止误导性信息的传播。
在实际案例中，国内已审结首例AI生成声音人格权侵权案。法院认定，未经授权使用配音演员的声音进行AI生成并出售，构成侵权行为。这一判决为类似案件提供了法律依据。
面对AI深度合成技术的普及，专家建议从法律、平台和公众等多个层面综合施策。法律层面需完善相关立法，细化法律条款，加强执法力度。平台层面则需强化政策执行，利用技术手段规避侵权问题，同时建立健全内容审核和侵权举报机制。
法律专家提醒，AI深度合成制作和信息发布者切勿心存侥幸。法律没有灰色地带，任何违法行为都将受到严厉制裁。合理使用AI技术，避免侵权行为的发生，是保障个人权益和社会秩序的关键。
