近年来，AI深度合成技术在网络空间引发了一系列侵权事件，从恶搞企业领袖雷军到假冒知名医生张文宏进行商品推销，甚至出现了利用该技术实施诈骗的犯罪活动。这些现象不仅侵犯了个人权益，也扰乱了网络秩序。
早前有网友利用AI技术模仿刘德华的声音吸引流量，这一行为迫使刘德华的电影公司发布声明，警告公众警惕伪造其声音的AI语音合成技术。记者最近的一项调查发现，制作AI深度合成的音视频并非难事，某些在线购物平台上，这类技术已成为网店盈利的手段，消费者仅需支付少量费用，即可定制名人音视频。
记者进一步发现，制作这些高度逼真的AI合成音视频并非遥不可及。尽管手机应用商店中的部分换脸软件效果有限，但网络上存在多种开源软件，能够实现高质量的声音模仿和面部替换。中国网络空间安全协会人工智能安全治理专业委员会的专家薛智慧指出，这些软件可供网民自由下载和使用。
专家介绍，尽管这些软件具有一定技术门槛，但在短视频平台上，众多主播正在教授如何使用这些工具。这些软件虽然多样，但每个场景都需要调整参数，操作相对复杂。
针对此类行为，法律专家明确表示，未经授权使用AI深度合成技术制作发布他人信息属于违法行为。根据《中华人民共和国民法典》及相关法规，自然人的肖像、声音等权益受法律保护，任何组织或个人不得未经授权进行伪造和发布。2023年和2024年，国家网信办等部门出台的多项规定也强调了对AI生成合成内容的监管。
北京航空航天大学法学院副教授赵精武指出，国内已有判例显示，未经授权使用AI合成声音的行为被法院认定为侵权。在一起案例中，一名配音演员的声音被AI生成并出售，法院最终判决被告行为构成侵权。
对于如何防范AI深度合成音视频侵权，专家建议从技术、法律和公众意识等多方面入手。薛智慧专家表示，可以利用AI技术来检测和对抗AI生成的虚假内容。目前已有一些技术能够分析图片或音视频，判断其是否经过后期加工。
中国计算机学会计算机安全专业委员会委员吕延辉强调，法律层面需要完善相关立法，细化法律条款，明确侵权行为的定义和责任，并加强执法力度。平台应强化政策法规的执行，应用技术手段规避AI克隆侵权，建立健全内容审核和侵权举报机制。
赵精武副教授提醒，法律并不禁止使用AI合成技术，但禁止不合法、不合理的使用，特别是未经标识和提示的AI合成信息的发布和传播。公众应提高防范意识，避免被虚假信息误导。
