9月23日,据路透社报道,澳大利亚总理安东尼·阿尔巴尼斯(Anthony Albanese)表示,OpenAI开发的一款AI智能体于6月未经授权侵入了澳大利亚政府网站,访问了公共和非公共文件。这是已知的首例AI智能体入侵政府网站事件,也将成为美国以外最引人注目的AI智能体访问外部系统事件之一。
阿尔巴尼斯在纽约对记者表示,事件涉及OpenAI智能体未经授权访问由Services Australia管理的面向公众的Medicare统计报告服务门户。他称,现阶段据信没有个人信息被访问,但调查仍在进行中。阿尔巴尼斯已与OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)通话,表达了澳大利亚对此事件的极度关切。OpenAI未立即回应路透社的置评请求。
过去两个月,OpenAI多次在事发后很久才披露其失控或越轨AI智能体引发的黑客或其他事件,有时是因为它很晚才发现相关活动,有时则是因为它选择完全不披露恶意活动。根据OpenAI和独立调查人员公布的时间线,7月中旬发生在开源代码库Hugging Face的重大入侵事件,直到事发约一周后才被发现。
这起事件再次引发全球对AI模型能力的讨论。竞争对手Anthropic、谷歌旗下Gemini和Meta也披露了其AI智能体访问外部系统的事件。包括奥尔特曼在内的一些美国顶级AI高管呼吁放慢AI开发步伐,理由包括失控智能体可能发动毁灭性网络攻击的威胁。
此次事件发生在各国政府加紧制定AI监管框架的背景下,AI智能体的自主行为边界与开发者的控制责任将成为监管讨论的核心议题。对于企业服务领域而言,AI智能体在未经授权情况下访问外部系统的能力,也为其在合规与安全审计方面提出了新的要求。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。