近年来，AI深度合成技术引发的音视频侵权事件频发，从恶搞企业家雷军到模仿医生张文宏进行带货，甚至有不法分子利用该技术制作诈骗视频，社会影响恶劣。
此前，有网友利用AI技术模仿刘德华的声音，试图博取流量，刘德华的电影公司迅速发布声明，提醒公众警惕伪造刘德华声音的AI语音合成技术陷阱。近期记者调查发现，制作AI深度合成音视频并非难事，在一些购物平台上，该技术已成为网店牟利的手段，花费少量金钱即可定制名人音视频。
记者发现，网络上存在多种深度合成软件，部分网络主播甚至开设直播教程，教授网友如何使用这些软件。尽管一些手机应用商城中的换脸工具逼真度不高，但网店制作的AI深度合成音视频却相当逼真。
据中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧介绍，目前网络上存在许多开源软件和工具，可实现换声换脸效果，网民可自由下载并在个人电脑上安装使用。然而，这些软件具有一定的技术门槛，需要调整参数和步骤较多。
专家指出，在网络购物平台上使用AI深度合成技术制作并出售名人音视频，已触犯相关法律。根据相关法律法规，未经授权，不得深度合成制作发布他人信息。中国计算机学会计算机安全专业委员会委员吕延辉表示，《中华人民共和国民法典》明确规定，自然人享有肖像、声音等权益，任何组织或个人利用信息技术伪造均属侵权行为。
北京航空航天大学法学院副教授赵精武提到，国内已审结首例AI生成声音人格权侵权案。在此案中，一名配音演员的声音未经授权被AI生成并出售，法院最终认定被告行为构成侵权。
面对AI深度合成音视频侵权的泛滥，专家建议从技术角度提高防范意识。薛智慧表示，可以利用AI技术对抗和检测AI，目前已有一些典型技术能够检测图片或音视频是否经过后期加工和合成。
吕延辉强调，防范AI侵权需要从法律、平台和公众等多个层面综合施策。法律层面需完善相关立法，细化AI克隆技术的法律条款，明确侵权行为定义和责任，并加强执法力度。平台层面则需强化政策法规的执行，应用技术手段规避AI克隆侵权问题，同时建立健全内容审核和侵权举报机制。
法律专家提醒，AI深度合成制作和信息发布者切勿心存侥幸，法律没有灰色地带，任何违法行为都将受到严厉制裁。赵精武副教授指出，法律并非禁止使用AI合成技术，而是禁止不合法、不合理的使用，尤其是未经显著标识和提示的AI合成信息的发布和传播。
