OpenAI近日撤销了部分网络安全研究人员对其“网络可信访问”(Trusted Access for Cyber)项目的访问权限。该项目旨在向受信任的安全防御者提供更先进的AI模型,帮助他们向企业报告漏洞和安全隐患,从而推动缺陷修复进程。
据知情人士透露,此次访问权限调整涉及多位参与该项目的安全研究人员,但OpenAI未公开说明具体原因。该公司发言人在回应时表示,参与该项目的资格需要持续评估,以确保模型被用于防御性安全研究而非其他用途。OpenAI强调,该项目仍处于有限测试阶段,参与者需遵守严格的使用条款。
“网络可信访问”项目于2024年推出,是OpenAI在AI安全领域的一项尝试。其核心逻辑是,通过向安全社区提供GPT系列等模型的访问权限,让研究人员能够更高效地识别软件漏洞,并在漏洞被恶意利用前通知相关企业。该项目被视为AI在网络安全防御场景中的典型应用,与OpenAI此前发布的网络安全指南一脉相承。
此次撤销访问权限的举动引发了安全社区的部分讨论。有观点认为,这类有限访问项目在平衡开放性与安全性时面临挑战,尤其是在AI能力快速迭代的背景下,如何界定“受信任”的标准将成为持续争议的焦点。也有业内人士指出,OpenAI对参与者资格的动态管理并不意外,类似机制在漏洞赏金和早期访问项目中并不罕见。
截至目前,OpenAI尚未披露有多少研究人员受到此次调整影响,也未说明是否会对项目整体运行模式作出改变。随着AI模型在安全防御中的角色日益重要,此类项目的准入规则和透明度,预计将受到更多关注。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。