企服科学:微软把智能体当内鬼管,AI采购单上多了一行审计费

当智能体开始替公司签字,审计就成了它必须穿的衣服。

周一,微软发布了一组安全功能。最受关注的那个叫“守护智能体”(Guardian Agents),用途是监控企业内部正在运行的各种 AI 智能体。

它属于微软今年 6 月上线的“感知项目”:最初是三个角色——扮演黑客的红队智能体、负责侦测和评估的蓝队智能体、负责修漏洞的绿队智能体。这套设计的前提是“AI 黑客来自外部”。但纳德拉最近把这个前提掀了:威胁的源头可能就是企业自己付费部署的智能体,它们的行为像失控的内部员工,也就是安全行业说的“内部威胁”。

同一周,另外两条消息没多少人注意:AICPA 与 AIUC 推出联合保障认证,把 SOC 2 与 AIUC-1 合并成一次第三方审查;AICPA 又与一家鉴证机构合作,推出针对 AI 智能体的认证服务。再加上美国审计质量中心(CAQ)的调查结论——AI 的应用速度明显快于治理建设——一条完整的链条就出来了。

我把这件事放到三个问题里去看。

第一个问题:智能体出了事,谁来签字?

微软安全业务负责人海耶特·加洛的说法很值得抄下来:前沿模型无论来自哪里,都无法完全信任。她补了一句更关键的——不是因为模型有恶意或者容易被攻破,而是因为行为不可预测。模型被训练的目标是完成任务,不是遵守组织规范;而智能体往往握有高权限,能访问各类数据和工具,一旦跑偏,破坏力远大于一个员工。

这句话把责任问题挑明了。员工犯错,有劳动合同、有岗位职责、有主管签字;智能体犯错,合同签在采购部,模型部署在 IT 部,业务部门只是“用了一下”。三条线谁也不认账。

这正是当年 SaaS 走过的路。2010 年前后,企业采购 SaaS 时问的第一个问题不是“功能全不全”,而是“我的数据放你那儿安全吗”。SOC 2 报告就是那个答案:一份第三方出具的、覆盖安全、可用性、处理完整性、保密性和隐私的控制说明。它不能证明你不会出事,但能证明你有一套可被检查的机制。今天企业问智能体的问题一模一样:它会不会乱调接口、会不会把客户数据发到不该去的地方、出事能不能追到具体那一步。答案还没有标准件。

第二个问题:审计跟得上模型迭代吗?

要泼一盆冷水。模型的迭代周期是季度,审计的周期是年度。你今年 3 月出的报告,到 9 月可能已经描述不了一个换了底座、加了工具的智能体。

所以真正可审的不是“输出对不对”,而是“过程管没管住”。微软这次给的产品细节,恰好都是过程项:Defender 里新增智能体检测,最多能识别员工带进工作环境的 60 种智能体,包括 Claude Code、Codex、OpenClaw;新增权限管理,可以限制智能体访问的数据和系统范围,并按任务动态调整;高风险操作要求人工审批。英伟达牵头的开放智能体安全平台已经拉到 100 多家企业,做法是把智能体隔离在受控环境里,用硬件监测异常,必要时直接切断。

把这几件事翻译成审计语言就是:清单、权限、日志、熔断。审计师不需要理解注意力机制,他只需要看到——这个智能体能碰哪些数据,谁批准的,操作留没留痕,异常有没有被阻断。这几项能落地,认证才有意义;落不了地,认证就是一张印刷精美的纸。

第三个问题:这对中国企服意味着什么?

先看一个不太体面的事实:微软在卖智能体安全产品的同时,是 OpenAI 和 Anthropic 的投资方,OpenAI 还是它云业务的大客户。让客户对合作伙伴的产品保持警惕,再卖一整套监控工具——这中间的利益冲突,谁都看得见。但它的逻辑站得住:审计必须独立于被审计对象。这条原则在财务审计里用了一百年,现在原封不动搬到智能体上。

对中国厂商,这里有三个可行动的方向。

第一,把“权限网关”做成标准件。企业不缺模型,缺的是一个统一的入口:所有智能体调用都从这里过,按人、按角色、按任务发临时凭证,超范围直接拒。这个东西技术难度不算高,但极考验产品化和交付,正好是本土厂商擅长的战场。

第二,把“审计日志”卖成合规能力。等保、数据安全法、个人信息保护合规审计要求,正在把“可追溯”从加分项变成必答题。智能体的调用链比人复杂得多:一次任务可能触发十几个工具、跨三个系统。谁能把这条链完整还原,谁就能进金融、政企、医疗的门。

第三,别急着做“全能智能体平台”。客户现在的预算正在从“买能力”往“买兜底”迁移。你承诺能干什么,采购部门会打个折;你能证明出事了怎么收场,预算才批得下来。

一个开放的问题

回到纳德拉那句判断:要把“智能能力的供给”和“对它的管控权限”分开。这句话如果成立,AI 产业会多出一条独立的产品线,地位类似今天的 SecOps——不产生直接收入,但没有它,其他收入都不安全。

问题在于,这条产品线由谁来定标准。是模型厂商自己,是云厂商,还是会计与审计行业?现在三方都在抢:微软在卖工具,AICPA 在卖认证,英伟达在拉联盟。谁能把“过程可审”变成行业默认,谁就拿走了下一个十年的过路费。

中国企业这次离得不远。我们在权限、日志、审计上的工程积累并不弱,弱的是把经验变成标准的能力。等别人把认证模板写好再照着做,就只能永远做实施方。

当智能体开始替公司签字,审计就成了它必须穿的衣服。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
企服科学:1030亿合同撑不起300亿估值,算力二房东的账算穿了
上一篇 1小时前
WorkBuddy与企业微信深度融合,AI办公助手进入”数字同事”阶段
下一篇 1小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部