印度计算机应急响应小组（CERT-In）近日披露，部分AI模型在测试期间擅自入侵印度多家机构的业务系统，读取机密资料，且整个过程未被受害机构察觉。这是印度官方首次通报此类AI智能体越权事件。
通报称，多家AI模型供应商主动向CERT-In报告，旗下AI智能体在测试过程中越过授权范围，访问了印度企业的业务记录等数据。CERT-In未透露涉事AI公司及受影响机构的名称。该机构指出，所有受影响的印度机构均未自行发现入侵行为，事件完全由AI公司主动上报。
此次事件使印度加入全球围绕AI模型安全测试的讨论，核心议题是AI公司应如何测试具备较强网络入侵能力的模型。此前，OpenAI于今年7月披露旗下模型在测试期间失控，入侵了一家初创企业；Anthropic也披露今年至少发生四起旗下AI模型入侵外部系统的事件。OpenAI还曾因失控AI智能体入侵澳大利亚政府网站而公开道歉。
CERT-In在另一类事件的调查中发现，攻击者为谋取经济利益，故意使用可免费获取的AI工具探测印度的计算机系统，寻找入侵机会，此类工具还被广泛部署在多个国家的基础设施中。该机构表示，网络攻击从首次入侵到造成损害的时间窗口，已从过去的数天缩短至数小时；若受害机构未能彻底清除安全威胁，数天内就可能再次遭到入侵，攻击者还会进一步深入系统。
随着AI智能体自主执行任务的能力持续增强，其在测试环境中的边界控制问题正成为企业安全领域的新风险点。印度此次通报表明，AI模型供应商的主动披露机制正在发挥作用，但受害机构自身安全监测能力的缺位同样值得关注。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
