小红书官方账号“薯管家”9月3日发布《关于AI制作医美、民宿等虚假内容治理公告》，宣布将AI制作发布虚假内容纳入常态化治理。公告显示，平台近期发现部分账号利用AI生成虚假体验笔记，用AI生成或拼接的图片伪造实景，杜撰探店、住宿、就医、美容等使用体验，误导用户决策。今年6至8月，平台已清理处置AI制作发布的虚假笔记近12万条。
小红书方面表示，平台积极响应主管部门相关管理要求，切实履行平台主体责任，已将AI制作发布虚假内容纳入常态化治理。治理工作从三方面展开：一是细化管控重点，将AI生成图片伪造实景、AI批量生成同质化体验笔记、虚构亲历经历列为高风险场景重点识别，文旅住宿、医疗医美、教育、房产等品类优先覆盖；二是聚焦存量清理，从笔记、评论、账号等多环节清理历史虚假内容；三是增补策略严控新增，同步强化未标识AI内容的识别能力，对同一图片或视频跨地域、跨账号重复使用的情形加强检测。
公告披露了多起典型处置案例。用户“泥*吧”发布AI虚假医美体验，平台已下架相关内容，并对违规账号予以封禁处置；用户“吹*风”发布AI虚假民宿图文，虚构住宿体验，平台已下架相关内容，并对违规账号予以禁言处置；用户“心*阁”发布AI虚构家庭背景及教育经验并销售教辅材料，平台已下架相关内容，并对违规账号予以封禁处置。
此次治理动作的背景是AI生成内容在内容社区平台的快速渗透。随着大模型和图像生成工具的普及，批量生产高度拟真的图文内容成本大幅降低，部分账号利用这一技术手段制造虚假体验信息，干扰用户消费决策。对于以种草和消费决策为核心场景的小红书而言，AI伪造内容对平台内容可信度构成直接挑战，也触发了监管层面对AI内容标识与治理的关注。
小红书在公告中同时明确了对AI辅助创作的支持态度。平台鼓励创作者使用AI辅助创作，同时要求发布涉及AI生成内容时使用平台AI内容声明功能予以标注。对于疑似AI编造的虚假内容，用户可通过笔记右上角的“举报”入口进行反馈。
从行业视角看，小红书此举反映了内容平台在AI内容治理上的共性路径：一方面需要区分AI辅助创作与AI伪造虚假信息的边界，避免一刀切抑制正常创作；另一方面需建立针对AI批量生成内容的识别和处置机制。AI内容标识、跨账号重复内容检测等技术手段正在成为平台治理基础设施的一部分。
此次治理公告的发布，也意味着AI生成内容的平台治理正从单次专项行动走向常态化机制。随着AI生成工具在图文、视频等领域的进一步普及，内容平台对AI虚假信息的识别能力与处置效率，将直接影响平台内容生态质量和用户信任度。小红书将AI虚假内容纳入常态化治理的举措，或为同类内容社区平台提供可参考的治理样本。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
