据《纽约时报》8月18日报道，随着生成式AI工具的普及，低质量AI内容已在各大科技平台泛滥成灾。谷歌搜索中充斥着AI生成的虚假食谱，亚马逊商品页面出现虚构传记，脸书信息流中满是AI合成的怪异图片。面对这一局面，Spotify、谷歌、Meta、TikTok等科技公司已开始大规模清理AI垃圾内容，一场针对“生成式垃圾”的平台治理行动正在硅谷全面展开。
音乐流媒体平台Spotify表示，去年其删除了7500万条批量上传的重复曲目及其他垃圾内容，占其音乐库的相当大一部分。领英在7月宣布将AI垃圾内容列为“首要关注重点”，并推出了用户举报按钮。谷歌研究人员则描述了YouTube如何在六个月内清除了13万个低质量频道。法国流媒体服务Deezer今年春天表示，其系统每日新增曲目中近一半为AI生成内容，Apple Music的上传内容中AI生成占比也超过三分之一。AI垃圾内容（slop）的泛滥程度如此之高，以至于词典出版商梅里亚姆-韦伯斯特将其选为2025年度词汇。
值得关注的是，许多正在治理AI垃圾内容的公司，恰恰也是推动AI内容生成的同一些企业。今年7月，Meta承诺支持欧洲公约，通过检测和标记使AI生成内容更易识别，但同月其发布的图像生成器因自动将公开Instagram账户纳入参考数据源，遭到用户连续三天强烈反对后被迫移除该功能。谷歌已将Gemini模型全面接入搜索、邮件、地图等核心产品，其研究人员通过分析上传速度、重复性模板等模式，识别并移除了5万个涉嫌协同滥用行为的账户集群。
其他平台也在采取多元化应对策略。TikTok已自动标记超过30亿条AI生成视频，今年第一季度因违反AI政策删除37.7万条视频。Pinterest在去年10月允许用户限制AI生成帖子的显示数量。据AI检测公司Pangram数据，在X平台上，近一半超过50个字的帖子由AI生成，该平台今年封禁了通过付费鼓励机器人发布内容的应用程序。Substack则推出了基于Pangram技术的AI检测工具，用于扫描回复、评论及长帖内容。
然而，治理措施也引发争议。一些Substack作者抱怨该检测工具将人类撰写的帖子误判为AI生成，且未考虑AI在创作中的辅助角色。部分数字媒体专家担忧，谷歌的账户集群移除方法可能误伤大量发布内容的合法创作者。YouTube在一份声明中强调，其防护措施旨在确保使用AI工具且出于正当目的的创作者不会受到影响。哥伦比亚大学研究员卡米尔·弗朗索瓦指出，当前应对策略的分散性反映出信息环境中的系统性问题，AI作为创造力工具具有多面性，处理不当的平台将面临用户流失的风险。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
