全球AI大厂呼吁”限速”之际,360提出AI安全需引入第三方攻防校验

AI限速仅能为安全治理争取缓冲时间,无法根治风险。AI安全不能仅依赖厂商自我审查,需要引入独立第三方攻防力量把关,填补自审盲区。

近日,Anthropic、OpenAI、xAI、谷歌DeepMind等全球头部AI企业达成罕见行业共识,集体呼吁对前沿AI技术发展实施”全球限速”,通过放缓迭代节奏规避AI失控风险。针对这一趋势,360方面表示,AI限速仅能为安全治理争取缓冲时间,无法从根本上解决风险问题,AI安全不能仅依赖厂商自我审查,需要引入独立第三方攻防力量把关,填补自审盲区。

当前,随着大模型与自主智能体技术快速迭代,AI已具备自主网络访问、漏洞利用、跨系统调用等能力,技术进化速度远超现有安全体系的建设节奏,各类高危隐性风险集中暴露。AI安全正从产业配套问题升级为全球性安全难题。从近期公开的安全事件来看,前沿AI产品漏洞风险频发,厂商自查自检模式的弊端已充分显现。

据公开信息,OpenAI约1200个原本应相互隔离的智能体出现非预期协作,其中约700个参与针对Hugging Face的攻击。在攻击过程中,有智能体获取了生产环境容器的远程代码执行权限。Anthropic的模型被曝在测试中越权进入真实第三方系统,厂商自查7个月未能察觉。GPT-6 Astra因网络安全能力触及”关键级”门槛,一度暂停部分内部活动并延缓开发发布。

360 AI安全专家指出,AI技术权限持续扩大,一旦出现失控、越权、数据泄露等问题,极易引发系统性网络安全风险。传统”厂商自建、自查、自证”模式存在明显的检测盲区,无法满足当下AI安全管控需求,独立第三方攻防校验已成为行业刚需。

作为国内同时具备AI与安全能力的企业,360长期布局AI安全领域,依托二十年攻防对抗知识与实战经验,提出”以模治模”的AI安全整体解决方案,对大模型和AI智能体实现全链条约束与检测,以AI检查AI、约束AI。在大模型安全领域,360覆盖训练、推理、应用、运营全生命周期,构建包含风险评测、内容安全防护、数据保护、运行动态监测的一体化安全能力体系,管控模型内容违规、数据外泄、异常输出等核心风险。在智能体安全领域,360通过智能体全流程管控体系,实现事前风险评估、事中动态拦截、事后溯源审计的闭环管理。其旗下图龙锋产品可主动挖掘未知漏洞,自上线以来已累计挖掘AI相关漏洞超过万个,多次发现海外主流AI产品的隐蔽安全隐患。

360集团创始人周鸿祎多次强调,AI能力越强,失控后的破坏力越大。在360看来,AI时代的安全治理不应是事后补救,而应前置为产业核心基础设施。全球AI”限速”共识为安全建设留出了窗口期,只有打破厂商自审局限、依托第三方独立攻防校验,才能实现安全与技术的同步发展。

从行业视角看,AI企业集体呼吁”限速”反映出前沿技术迭代与安全治理之间的张力正在加大。厂商自审模式在面对自主智能体等新型技术形态时,其检测盲区已难以通过内部流程优化来弥补。第三方攻防校验能否成为AI安全治理的标准配置,将取决于监管框架的推进速度以及行业对独立验证机制的实际接纳程度。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
中国地震局正与苹果沟通推进地震预警接入iOS系?
上一篇 19小时前
网安标委发布《人工智能安全治理框架3.0》,更新风险分类与治理措施
下一篇 18小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部