抖音于9月10日发布《抖音关于持续治理涉未成年人不良内容的公告》,披露了平台近一个月针对涉未成年人违规内容的治理数据。公告显示,平台共处置违规内容20万条,违规直播间2044个,违规账号8132个。此次治理的重点集中在三类典型违规情形:以亲子育儿标签传播不良内容、利用AI生成未成年人悲惨形象、以及成年主播伪装未成年人形象进行直播。
根据公告披露的第一类违规情形,部分账号以“萌娃日常”“人类幼崽”等育儿标签为包装,发布涉及未成年人的暴力、整蛊恶搞等不良内容,刻意制造争议话题以实现流量获取和账号涨粉。平台已对相关违规内容进行处置,并对涉事账号实施禁言。这类行为的核心逻辑在于利用未成年人相关内容天然具备的高关注度,通过制造冲突和争议来提升互动数据,进而完成账号的冷启动和流量积累。
第二类违规情形涉及AI技术的滥用。公告指出,部分账号利用AI生成“未成年人全身烧伤躺在病床上”等画面,刻意营造未成年人的悲惨处境,以此诱导用户互动,实现吸粉引流和不当牟利。平台已处置相关违规内容并对账号禁言。这类行为反映出生成式AI技术普及后,内容造假成本显著降低,平台在内容审核环节面临新的技术挑战。AI生成的虚假未成年人形象不仅能够规避传统的人工审核机制,还因其视觉冲击力更容易引发用户的情感共鸣和互动行为,从而形成一条从内容生成到流量变现的灰色链条。
第三类违规情形则涉及直播场景。公告显示,部分成年主播在直播间通过妆造、服装、变音等方式伪装成未成年人形象进行直播,以此吸引流量和关注。平台已中断相关违规直播间,并对账号回收直播及连麦权限。此类行为利用了用户对未成年人直播内容的好奇心和关注度,同时规避了平台对未成年人直播的严格限制,属于对平台规则的直接对抗。
从平台治理的角度来看,此次公告披露的数据和案例反映出涉未成年人不良内容正在呈现出技术化、隐蔽化和跨场景化的特征。传统的违规内容主要集中在直接发布不当画面或言论,而当前出现的AI生成虚假形象和成年主播伪装直播等行为,则要求平台在识别技术、审核流程和处置手段上进行相应升级。抖音在公告中表示,将持续强化技术手段,对涉未成年人违规内容从严从重处置,同时倡导创作者以友好、适度的方式开展未成年人相关内容创作。
未成年人内容治理一直是内容平台面临的高难度课题。一方面,亲子育儿、萌娃日常等品类在短视频平台上拥有庞大的用户基础和商业价值,平台需要在内容供给和未成年人保护之间寻求平衡;另一方面,违规行为的技术门槛正在降低,AI生成内容的大规模应用使得平台审核压力持续增加。此次抖音披露的治理数据和典型案例,为行业提供了一个观察当前短视频平台未成年人内容治理现状的窗口。后续平台在AI内容识别、直播实时监控以及账号处罚机制上的具体技术投入和治理效果,仍有待进一步观察。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。