中国信通院联合360、华为等发布《智能体发展自律公约》,聚焦智能体安全与互信治理

智能体的健康发展,基石在于安全与互信。

11月4日,在2026年世界互联网大会乌镇峰会“智能体互信互联互操作全球合作创新”论坛上,中国信息通信研究院、360、华为等企业及机构共同发布《智能体发展自律公约》。360作为核心发起单位之一,深度参与了公约的起草与发布工作。

当前,智能体正从“单点应用”加速向“多智能体协同”演进。随着智能体在跨平台、跨系统场景中的交互频率提升,权限越界、数据泄露、行为失控等安全隐患逐渐暴露,成为制约其大规模落地的核心痛点。此次发布的《自律公约》共提出八条自律措施,重点聚焦健全智能体信任体系、提升安全防护能力、完善治理机制等关键议题,旨在落实国家“强化行业自律”的任务部署。

公约第四条对智能体安全防护提出明确要求,提出健全前瞻性风险评估、运行监测、行为管控、异常熔断等技术体系。这一条款与360近年来推行的“以模治模”技术路线相契合,即用AI治理AI。目前,360已构筑“大模型安全”与“智能体安全”两道防线,分别应对AI系统的内生风险,以及外部攻击引发的越权操作和行为失控。

在智能体运行安全层面,360推出了专门的智能体安全防护与管理系统,覆盖资产发现、行为管控、威胁检测、事件响应和损失恢复等环节。该系统在运行过程中可对智能体及技能插件进行识别管理,并对文件访问、命令执行等操作实施运行时管控。结合安全大模型,系统能够识别提示注入、恶意技能等风险,并支持异常事件的完整回溯与环境的快速恢复,使智能体环境从“看得见”向“管得住、可追溯、能恢复”过渡。

在产品实践方面,360已将安全能力嵌入应用层。面向个人用户,360推出的纳米Work将智能体置于云端隔离环境中运行,未经授权不接触用户本地数据,异常发生时可即时重建隔离环境以控制风险。面向政企客户,360打造的主权AI操作系统已在部分企业投用,使企业在构建专属智能体的同时,掌握数据、知识和安全治理的最终控制权。

从行业视角看,智能体生态的规模化前提在于安全与互信机制的建立。此前智能体安全多依赖单一厂商的产品级防护,缺乏跨平台、跨厂商的共识性规范。《自律公约》的发布意味着治理重心从企业自发实践转向行业协同约束,但公约本身不具备强制力,其效果取决于发起单位能否将条款转化为可复用的技术标准和可验证的落地能力。360等企业的深度参与,将有助于推动公约从行业共识走向技术落地,为构建开放、可信、安全的智能体生态提供基础支撑。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
字节跳动宣布扣子企业版2027年底全面下线,AI战略转向”粗主干”集中化
上一篇 9小时前
华为云智果AgentArts通过信通院企业级智能体平台评估,获当前最高4+级
下一篇 1小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部