随着AI智能体在生产环境中频繁出现意料之外的行为，企业在将AI引入实时广告账户这类涉及真实资金流动的场景时，如何确保安全成为亟待解决的问题。广告技术公司Optmyzr近期分享了其在安全AI方面的实践经验，提出三层防护框架，帮助广告主在享受AI效率的同时控制风险。
Optmyzr指出，关于AI在广告账户中的应用，大多数讨论都从同一个问题开始：“你信任AI吗？”但这一提问方式往往被用来推卸责任，进而得出不应使用AI的结论。更合理的提问是：“我们如何信任AI？”随后应将讨论转向可以在AI模型周围构建哪些机制，使其对业务使用足够安全。
Optmyzr建议用评估合作方的方式来审视AI智能体。没有人会在抽象层面询问是否信任一家新的PPC代理机构，而是会问：团队能访问哪些数据？他们被允许在未经确认的情况下更改什么？谁负责审核工作？这三个问题对应三个不同的答案，而“我就是信任他们”永远不能作为替代。对AI智能体同样适用这三个问题：它能看见什么？一个基于单薄数据层运行的智能体，会给出建立在账户三分之一数据上的自信回答，且不会告知用户它正在猜测。它被允许做什么？重点不在于你告诉它做什么，而在于无论任何人说什么，它在结构上被阻止做什么。谁负责签字确认？不是“事后审查变更历史”，而是在变更发生前谁必须说“同意”。
Optmyzr观察到，大多数代理式PPC设置对第一个问题有不错的答案，但在后两个问题上需要更加严格。为此，Optmyzr提出三层技术框架，每一层都独立产生价值，无需全部实施即可获益。
第一层是更好的数据基础，意味着更少自信但错误的答案。无论是否允许智能体执行写入操作，这一层都值得拥有，大多数人应从此开始。第二层是策略层，确保实际发生的变更始终处于预设限制之内，无论变更来自智能体、脚本还是人工操作。第三层是审核步骤，确保任何变更在到达账户之前都有人先行查看，并附带记录变更原因。即使数据层薄弱且没有任何策略，这一层也值得拥有。
Optmyzr强调，这三层防护会相互增强。数据基础让智能体的提案值得审核，审核流程则进一步提升数据质量，形成正向循环。对于在广告账户中部署AI的企业而言，这一框架提供了一条可操作的路径，在效率与安全之间取得平衡。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
