Meta宣布在其广告审核体系中部署一套新的AI工具，用于识别和拦截那些表面上看似正常、但实际将用户引导至儿童性虐待材料（CSAM）的广告。此前，Meta在其平台上发现部分广告内容本身并未直接包含违规素材，而是通过站外链接或后续跳转将用户导向有害内容，这类隐蔽导流行为对传统审核机制构成了挑战。
据Meta介绍，新工具的核心能力在于分析广告的完整意图链条，而不仅仅是对广告素材本身进行关键词或图像匹配。系统会结合广告的落地页、跳转路径以及发布者行为模式进行综合判断，从而在广告投放前或投放初期识别出具有导流风险的广告。Meta表示，该工具已经在内部测试中取得效果，并开始逐步应用于其广告审核流程。
这一举措的背景是，Meta近年来持续面临来自监管机构和儿童保护组织的压力。平台上的广告生态系统规模庞大，广告主和内容发布者数量众多，违规内容往往通过不断变换形式来规避检测。此前，Meta已经建立了针对CSAM的自动检测系统，主要覆盖用户上传的图片和视频内容，但广告场景下的隐蔽导流属于相对较新的风险类别。
Meta在声明中提到，违规广告的典型特征是广告文案和视觉素材本身不含有明显违规元素，因此能够通过常规审核，但用户点击后会经过一次或多次跳转，最终到达含有CSAM的页面。这种多层跳转的方式增加了审核难度，也使得单纯依赖静态内容识别的系统难以有效覆盖。新AI工具通过对跳转链路和广告主行为进行建模，试图在这一环节建立更主动的防御能力。
从行业角度看，广告审核一直是大型平台的技术难点之一。广告主数量庞大、投放频率高、内容形式多样，使得人工审核难以规模化，而自动化系统又容易在误判和漏判之间寻找平衡。Meta此次推出的工具，代表了平台在广告安全领域从“内容匹配”向“意图识别”方向演进的一种尝试。类似的技术思路也可能被应用于其他类型的有害广告治理，例如诈骗、恶意软件分发等场景。
Meta并未披露该工具的具体技术细节，包括所使用的模型架构、训练数据来源以及误判率等指标。公司仅表示，该工具是其整体安全体系的一部分，未来将继续投入资源改进检测能力。对于广告主而言，这意味着平台对广告内容的审核标准进一步收紧，尤其是在涉及站外跳转和第三方落地页的场景中，合规要求可能更加严格。
目前，Meta尚未公布该工具在全部广告流量中的覆盖比例，也未说明是否会对广告主提供相关的申诉或反馈机制。考虑到广告业务是Meta的主要收入来源，如何在安全审核与商业利益之间取得平衡，仍是其需要持续面对的问题。此次新工具的推出，表明Meta正在尝试用AI技术应对广告生态中更为隐蔽的违规行为，但其实际效果和行业影响仍有待观察。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
