近年来，AI深度合成技术引发的音视频侵权问题日益凸显，从对企业家的恶搞，到利用AI制作名人音视频进行带货，再到不法分子借此进行诈骗，种种乱象层出不穷。
以刘德华为例，曾有网友利用AI技术模仿其声音，企图博取流量。对此，刘德华的电影公司迅速发布声明，提醒公众警惕伪造其声音的AI语音合成技术。
记者经过调查发现，AI深度合成音视频的制作门槛其实并不高。在一些购物平台上，AI深度合成技术已经成为网店牟利的工具，仅需花费少量资金，即可定制名人音视频。
这些AI深度合成的声音和换脸效果是如何实现的呢？记者发现，网络上存在众多相关的深度合成软件，且部分网络主播还会通过直播教授使用方法。尽管一些换脸工具的效果并不逼真，但网店制作的AI深度合成音视频却能达到高度仿真。
中国网络空间安全协会人工智能安全治理专业委员会的专家薛智慧指出，目前网络上有许多开源软件和工具可以实现换声换脸的效果，公众可以自由下载并在自己的电脑上安装使用。
然而，尽管这些软件在网络上数量众多，但由于其操作复杂，具有一定的技术门槛，因此并不为普通网民所熟知。不过，记者发现，短视频平台上已有众多主播在教授如何使用这些软件。
针对网络购物平台使用AI深度合成技术制作出售名人音视频的行为，专家表示，这已触犯相关法律。根据相关法律法规，未经授权，不得深度合成制作发布他人信息。网店接单制作名人视频，已属于侵权行为，应承担相应的法律责任。
北京航空航天大学法学院副教授赵精武提到，国内已经审结了首例AI生成声音人格权侵权案。在此案中，一名配音演员的声音未经授权被AI生成并对外出售，法院最终认定被告行为构成侵权。
那么，公众应如何防范AI深度合成音视频侵权问题呢？薛智慧表示，从技术角度看，可以利用AI技术来对抗和检测AI。当前已有一些典型的AI技术能够对图片或音视频进行检测，判断其是否经过后期加工和合成。
中国计算机学会计算机安全专业委员会委员吕延辉认为，防范AI侵权问题需要从法律、平台和公众等多个层面综合施策。法律层面要完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，并加强执法力度。平台层面要强化政策法规的宣贯和执行，应用技术手段规避AI克隆侵权问题的发生，同时建立健全内容审核和侵权举报机制。
法律专家也提醒AI深度合成制作和信息发布者，切勿心存侥幸。法律没有灰色地带，任何不合法不合理的使用都可能面临法律责任。
赵精武副教授强调，法律并不禁止使用AI合成技术，而是禁止不合法不合理的使用，尤其是禁止不进行任何显著标识和提示的AI合成信息的发布和传播。
