北京互联网法院:平台误判AI生成内容未标识构成违约

北京互联网法院日前披露一起相关诉讼审理情况:平台用户小唐发布自认原创的文字内容，被平台认定为“包含AI生成内容但未标识”并作隐藏、禁言一天处理，申诉未果后诉至法院。法院最终认定平台构成违约，判决解除对涉案内容的隐藏并删除后台相应违规处理记录。

案件源于平台要求创作者对AI生成内容主动添加标识。北京互联网法院立案庭法官高雅介绍，被告以机器识别及人工复核认定涉案回答为AI生成内容，并以涉及技术秘密和算法逻辑为由主张无须向用户解释认定机制。法院认为，涉案回答属即时性创作文本，诉讼中难以要求原告提供创作底稿、原文件等创作过程材料;算法工具运算过程和审查结果由被告掌控，应由平台就认定依据进行合理举证或解释说明，被告未作适度解释说明，应对缺乏事实依据的处理承担违约责任。

该案典型意义在于明确平台解释说明义务与误判救济问题。法院指出，平台使用算法识别AI生成内容并采取处理措施，应以用户可理解的方式说明算法运行机制及误判救济措施，不能仅以涉及商业秘密为由拒绝解释。法院同时建议平台建立阶梯式处置机制，坚持过罚相当原则，根据违规程度采取警示、限制功能、暂停服务等差异化措施，并健全内容审核机制。

在《人工智能生成合成内容标识办法》落地推进、平台普遍加强AI内容标识审查的背景下，此案为算法判定与用户权益之间的平衡提供了司法参照，也提示平台在履行标识管理责任的同时，需同步完善判定依据说明与误判纠错通道。