据员工反映,Meta内部部署的AI智能体Muse在运行中出现对话混淆问题,导致部分员工的私人数据被错误展示给其他同事。这一问题涉及Meta内部办公场景中的智能体应用,暴露出企业在将AI助手接入内部系统时面临的数据隔离与权限控制风险。
具体而言,员工称Muse曾显示他们从未发送过的育儿请求消息、从未寻求过的职业建议、从未下过的产品订单,以及并不属于他们的银行账户余额。这些内容本应属于其他员工的个人对话或账户信息,却在Muse的交互界面中被错误呈现,说明该智能体在会话归属识别与数据边界管理上存在缺陷。
Muse是Meta面向内部员工推出的AI智能体产品,定位为辅助日常办公与信息检索的助手工具。此类内部智能体通常需要接入企业通讯、日程、订单及财务等多个系统,以完成跨应用的任务编排。接入系统越多,对数据权限分级和会话上下文隔离的要求就越高,任何一处校验缺失都可能导致敏感信息越界。
从行业角度看,这一事件反映出企业级AI智能体落地过程中的共性挑战。当前,越来越多企业将大模型智能体嵌入内部工作流,但多数产品在权限模型、审计日志和异常行为拦截方面仍不成熟。员工个人数据与业务数据在同一智能体入口下混合流转,一旦会话路由或身份校验出现偏差,就可能造成隐私泄露,并给企业带来合规压力。
Meta方面尚未就此事作出公开回应。对于计划部署内部智能体的企业而言,该案例提示需要在智能体接入前明确数据分级策略,建立会话与用户身份的强绑定机制,并对敏感字段设置访问白名单与实时审计,以降低AI助手在跨系统调用中误传数据的风险。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。