OpenAI、Anthropic、谷歌等百余家企业联合呼吁加强AI安全防御

这些企业认为,当前网络安全防护体系已难以应对由AI驱动的攻击手段,行业需要从底层架构上重构防御逻辑。

近日,OpenAI、Anthropic、谷歌等全球百余家科技公司和AI初创企业联合发布声明,对当前网络安全现状表示担忧,并提出一套新的防御方案,以应对新一代由AI驱动的网络威胁。这一联合行动被视为AI行业在安全议题上罕见的大规模协同表态。

声明指出,生成式AI的快速发展大幅降低了网络攻击的技术门槛,攻击者可以利用大模型自动生成钓鱼邮件、编写恶意代码、发现系统漏洞,传统基于规则和签名的安全防护手段正面临失效风险。参与企业呼吁行业、政府和标准组织共同采取行动,建立更主动、更智能的防御体系,而非在攻击发生后再进行补救。

此次联合声明的参与者涵盖AI基础模型开发商、云计算服务商、企业软件供应商及安全初创公司。除上述三家企业外,还包括微软、亚马逊、IBM、英伟达等基础设施巨头,以及多家专注于AI安全的中小型企业。各方在声明中并未透露具体的技术细节,但强调将共享威胁情报、推动安全基准测试,并投资于可解释性和模型审计工具。

业内分析认为,此举反映出AI产业链对安全风险的共识正在加深。随着大模型被嵌入企业核心业务流程,模型本身的安全性和抗攻击能力已成为采购决策的关键考量。此前,多起针对AI系统的越狱攻击、提示注入和数据泄露事件已引发企业客户警惕,安全能力正从附加功能转变为AI产品的核心竞争力。

声明还呼吁监管机构在制定AI治理规则时,将网络安全作为强制性要求,并鼓励建立跨行业的应急响应机制。部分参与企业已承诺在内部设立红队测试团队,专门模拟对抗性攻击场景,以验证模型的鲁棒性。

此次联合行动能否转化为实质性的标准或产品落地,尚待观察。但可以确定的是,AI安全已不再是单一公司的技术问题,而是整个行业必须共同面对的基础设施级挑战。未来,安全防御能力或将成为衡量AI服务商的重要指标,并深刻影响企业服务市场的竞争格局。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
Hoomanely推出智能喂食碗与AI平台,帮助宠物主识别犬只健康异常
上一篇 2小时前
打造智能化平台和联合服务方案,让伙伴实现更多效率与收益
下一篇 2024年3月10日 下午2:05

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部