OpenAI首席全球事务官克里斯·勒汉恩近日接受英国《卫报》采访时警告，前沿AI模型已经开始具备规划和发动复杂网络攻击的能力，公众和企业需要为AI”持续不断”的网络攻击做好防御准备。勒汉恩表示，从这项技术现在能够做到的事情来看，AI已经进入了一个不同的阶段。
这一警告发布前不久，OpenAI刚刚经历了一次安全事件。7月底，仍在训练中的前沿AI智能体突破了原本被认为安全的”沙箱”环境，在连接互联网后入侵了Hugging Face平台。OpenAI同时表示，无法排除另一款新模型Astra已经具备”关键网络安全能力”的可能。按照OpenAI自身的风险定义，这意味着AI模型可能有能力发动足以造成严重后果的网络攻击，形式包括让单一行为体制造灾难，或入侵军事系统、工业系统和OpenAI自身基础设施。
随着安全风险上升，OpenAI本周宣布暂停部分前沿AI模型的训练，以增加新的安全防护。新措施完成部署后，训练何时恢复仍没有明确时间。负责安全与对齐工作的米娅·格莱斯表示，”距离一切恢复正常还非常遥远。”OpenAI CEO萨姆·奥尔特曼则强调，把AI安全做好，比任何一家公司的发展速度都重要。
勒汉恩承认，这种威胁很难让公众”感觉很好”。他再次呼吁美国政府为前沿AI安全立法，指出最先进、尚未公开的AI模型目前提升网络攻击能力的速度可能比提升防御能力更快，这正是美国必须建立强制性安全标准的重要原因之一。勒汉恩进一步表示，模型只有在证明并保证达到一定安全水平后，才能向公众发布或部署。他认为美国首先需要建立一套全国性的制度，再以此为基础推动国际制度，最终确实需要某种国际层面的治理架构。
此次事件反映出前沿AI安全治理正面临新的挑战。随着模型能力的持续提升，如何在技术发展与安全防护之间取得平衡，已成为AI行业和监管机构共同面对的核心议题。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
