随着人工智能技术的飞速发展，AI在声音和视频领域的滥用及侵权问题日益凸显，成为社会关注的焦点。近期，“国庆假期被‘雷军’骂了8天”和刘晓庆回应“画面是我、声音像我、但不是我”等事件，再次将AI声音和视频合成技术的争议推向风口浪尖。
去年，北京互联网法院对全国首例“AI声音侵权案”作出一审判决，明确指出，如果AI合成的声音能让公众根据音色、语调和发音风格联想到特定自然人，即具有可识别性，这标志着法律对AI合成技术的规制迈出了重要一步。然而，当前针对AI换脸拟声等领域的单行法仍属空白。
在全国两会期间，多位代表委员围绕人工智能生成内容的规范、预防和治理展开了热烈讨论。小米CEO雷军、TCL创始人兼董事长李东生、科大讯飞董事长刘庆峰等人纷纷提议，应加速制定针对AI生成合成内容的单行法，明确各方责任，强制标识生成内容，并对易感人群加大普法力度。
据了解，虽然《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》等法规已出台，但针对“AI换脸拟声”的具体规定仍存在效力位阶偏低、内容分散、部门职责交叉等问题。因此，现阶段主要依靠基础法律中关于隐私权、肖像权、名誉权等的零散法条来规制相关侵权行为。
雷军建议，应加快单行法的立法进程，提升立法位阶，针对“AI换脸拟声”等代表性问题进行专门立法，明确应用边界红线，完善侵权证据规则，并加大对利用AI技术实施犯罪行为的刑事处罚力度。同时，他强调应与时俱进地探索新议题的细化监管措施，凝聚人工智能伦理规范共识。
针对人工智能损害的救济问题，《人工智能法（学者建议稿）》提出了人工智能公益诉讼条款，旨在通过公益诉讼实现对AI伪造现象的有效治理。最高人民检察院公益诉讼检察厅厅长徐向春表示，人工智能技术的广泛应用虽然带来了便利，但不当使用也可能对公共利益造成损害，传统私益诉讼难以实现有效救济，因此检察机关正在探索大数据法律监督模型构建，积极应对人工智能滥用可能引发的公益损害。
在厘清人工智能生成合成全链条各方责任方面，雷军提议通过技术和法律手段并重、监督管理和自律自治相结合的方式，加强跨区域、跨部门的协调联动，实现治理效果最大化。同时，他强调应强化行业自律共治，压实平台企业等各方的责任和义务，支持开发可精准识别人工智能深度合成内容的技术能力。
李东生也提到，应明确对人工智能深度合成服务商未履行标识义务的惩罚制度，完善相关行为界定、分类细则及处罚标准。昆仑万维董事长兼CEO方汉则建议AI企业应强化AI生成内容的审核与溯源能力，严格实施实名认证和使用场景分级管理。
在传播链条上，李东生建议要求深度合成服务提供商对AI生成的内容进行强制标识，减少恶意滥用，并加快出台相关管理规章制度和技术标准。雷军则提议加大普法宣传力度，特别是针对青少年和老年人等易感人群，提升他们的警惕性和鉴别力，同时在中小学人工智能教材中加入伦理规范内容。
科大讯飞董事长刘庆峰指出，随着生成式人工智能用户规模的快速增长，AI幻觉问题日益突出，特别是深度推理模型的逻辑自洽性提升使得AI生成内容真假难辨。他建议从技术层面研发AIGC幻觉治理技术和平台，开展深度鉴伪和虚假信息检测工作，并定期清理幻觉数据。
