Anthropic确认内部系统遭AI智能体渗透,客户对话与模型权重未受影响

Anthropic表示,研究人员访问的是范围有限的销售、人力资源和IT系统,客户与Claude的对话、模型回复、源代码及模型权重均未受到影响。

据《华盛顿邮报》当地时间10月26日报道,网络安全初创公司Cathedral的研究人员利用AI智能体,在不到12小时内通过第三方商业软件的漏洞,找到了进入Anthropic内部系统的路径。Anthropic随后确认,部分销售、人力资源和IT系统遭到访问,但客户与Claude的对话、模型回复、源代码及模型权重均未受到影响。

根据Cathedral一份尚未正式发布的报告草稿,研究人员是在Anthropic的外部安全研究计划框架下开展测试的。他们利用企业销售和行政管理软件中的漏洞,接触到会议记录、员工薪资与录用信息,以及讨论先进AI模型的Slack消息等内部信息。Anthropic方面表示,研究人员访问的是范围有限的销售、人力资源和IT系统,核心业务数据未被触及。

Anthropic称,公司自身的监控系统在Cathedral提交报告之前,就已发现部分相关活动,并在当天关闭了研究人员的访问权限。这一细节表明,事件并非完全依赖外部通报才被察觉。Anthropic还表示,已停用受影响的第三方软件,直至相关供应商确认漏洞得到修复,并向美国联邦政府相关部门通报了情况。目前没有证据表明Cathedral以外的人员利用了这些漏洞。相关软件供应商的名称及具体漏洞细节尚未公开。

Cathedral由美国政府效率部(DOGE)前成员创办,此次测试属于Anthropic外部安全研究计划的一部分。该计划通常允许经过审核的安全研究人员在受控条件下对目标系统进行测试,以发现潜在风险。本次事件的特殊之处在于,攻击路径并非直接针对Anthropic自研系统,而是借助第三方商业软件的漏洞迂回进入,且执行主体为AI智能体,测试周期不足12小时。

从行业角度看,这一事件凸显了AI企业在供应链安全层面的暴露面。大型模型公司除自研基础设施外,还依赖大量企业销售、人力资源、协同办公等第三方SaaS工具,这些系统的安全水位直接影响整体防护边界。Anthropic在事件中强调客户对话与模型权重未受影响,正是为了区分核心资产与外围系统的风险等级。

与此同时,AI智能体被用于自动化漏洞探测,也反映出安全测试手段正在发生变化。传统渗透测试依赖人工经验与较长周期,而智能体可在短时间内完成路径搜索与尝试,压缩了从发现漏洞到进入系统的窗口。对于依赖第三方软件的企业而言,供应商漏洞修复的响应速度将成为安全链条中的关键变量。

Anthropic表示,已就此事向美国联邦政府相关部门通报。随着外部安全研究计划持续运行,类似测试可能进一步暴露企业外围系统的薄弱环节,第三方软件供应商的漏洞披露与修复机制也将面临更高要求。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
Anthropic提交S-1文件启动IPO,重申Claude对话永不引入广告
上一篇 5小时前
专访飞企互联董事长史玉洁:智慧园区市场处于“井喷期”,5.0产业新空间应从“智慧化”突围
下一篇 2023年2月16日 下午12:20

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部