近期，我国针对人工智能技术生成的文字、图片、音频和视频等合成内容出台了一系列新的管理措施，旨在有效遏制虚假信息的传播。国家网信办、工信部、公安部以及广电总局联合发布了《人工智能生成合成内容标识办法》（简称《标识办法》），以规范人工智能生成合成内容的标识方式。
《标识办法》明确规定了两种标识形式：显式标识和隐式标识。显式标识通过在生成合成内容或交互界面中以文字、声音、图形等方式呈现，使用户能够明显感知到；隐式标识则通过技术措施在内容文件数据中添加，不易被用户直接感知。这一区分旨在确保在不影响用户体验的同时，提高信息内容的透明度和可追溯性。
具体而言，《标识办法》要求人工智能生成合成内容服务提供者在提供智能写作、合成人声、人脸替换等可能导致公众混淆或误认的深度合成服务时，必须添加显式标识，如文字、角标、语音和节奏等。同时，在提供下载、复制、导出等功能时，必须确保文件中包含符合要求的显式标识。配套的强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》（简称《标识标准》）也同步获批发布，并将与《标识办法》共同实施。
中国政法大学数据法治研究院教授张凌寒表示，通过隐式标识和显式标识的具体规定，《标识办法》旨在在不影响用户体验的前提下，减少虚假有害信息的传播，并为内容的进一步追溯提供便利。这一措施的实施，对于构建可信赖的人工智能技术环境具有重要意义。
近年来，AI谣言的传播已多次引发社会广泛关注。例如，近期网络上流传的关于某超一线男星在澳门豪赌输掉巨额资金的谣言，一度将周杰伦卷入其中。经调查，该谣言是由一名网民利用AI智慧生成功能制作的，并通过互联网平台迅速传播扩散，严重扰乱了公共秩序。类似的案例还包括西藏日喀则地震期间被大量转发的AI生成图片，以及利用AI技术伪造的“雷军”配音视频等。
为了从源头上遏制AI虚假信息的生成和传播，《标识办法》明确规定，AI服务提供者应在生成合成内容的文件元数据中添加隐式标识，包括内容属性信息、服务提供者名称或编码、内容编号等制作要素信息，并鼓励添加数字水印等形式的隐式标识。同时，传播平台也需采取适当方式在发布内容周边添加显著的提示标识，明确提醒公众该内容属于生成合成内容。
国家网信办相关负责人表示，《标识办法》旨在解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播各环节的全流程安全管理，以打造可信赖的人工智能技术。考虑到企业需要时间充分理解相关规定和标准规范，并针对性地开展能力建设和功能研发，因此设定了六个月左右的施行过渡期，将于2025年9月1日起正式施行。
此次《标识办法》的出台，不仅有助于遏制AI虚假信息的生成和传播，还通过内容可验证的机制设计，提高了网络空间中信息内容的可信性和真实性。这对于维护网络空间的健康发展和保护公众的合法权益具有重要意义。
