回答被判AI遭禁言，平台说不清依据被判违约

用户说回答是自己写的，平台却认成AI生成，隐藏内容，还禁言一天。唐某申诉失败后把平台告上法庭，最后获判解除内容隐藏、删除后台相应违规记录。北京互联网法院11月10日公布了这起案例。随着商家用AI换衣、短视频使用合成人像的争议持续出现，平台既要识别机器生成的内容，也面临另一道题：当用户说自己被误判，谁来解释这张罚单？

被告平台要求创作者主动给AI生成内容加标识，唐某则坚持涉案回答出自自己。平台说，判断经过了机器识别和人工复核，却以技术秘密和算法逻辑为由，认为没有必要向用户说明认定机制。争议于是从“这段话像不像AI”转到了“平台凭什么作出处理”。用户面对的也不只是少展示一条内容，还包括账号被限制，以及留在后台的违规记录。

法院认可平台按照合同约定审查、处理AI内容的权力，但要求结果有合理依据。据新京报记者张静姝对发布会的报道，法院考虑到这是一段即时写成的回答，让作者交出底稿、源文件等过程材料，缺乏现实可行性。识别工具、运算过程和审查结果都掌握在平台手中，因此平台需要提供合理证据或作适度说明。由于它没有完成这一步，法院认定平台应为缺乏事实依据的处置承担违约责任。

这像一台会自动开罚单的检测仪：仪器报了警，还要说明检测了什么、为什么足以处罚，以及当事人怎样申请复核。算法保密和处理有依据是两回事；要求说明一张罚单，也不等于把整台机器的设计图交给所有人。这起判决的依据，是平台没有对这次处罚提供合理证据和说明。法院要求用用户能够理解的方式解释判断及误判后的救济措施。

对内容创作者来说，申诉记录和平台给出的具体理由，可能比反复争论“我写得像不像机器人”更重要。对平台来说，人工复核不能只是给机器结论再盖一次章。法院在同场发布会上建议，处罚后告知理由与依据，提供方便的申诉渠道，并按违规程度采取不同强度的措施。治理生成内容的下一步，不只是让系统更会识别，也要让被处理的人能问清原因，并有机会纠正错误。

原文发布时间：澎湃新闻，北京时间2026年11月10日19:48／美国东部时间2026年11月10日06:48（EST）