11月17日,据彭博社报道,阿里、腾讯、月之暗面等中国主要AI厂商在最新发布的新一代旗舰模型中普遍限制了网络攻击相关能力,同时强化了漏洞检测与防御功能。这一变化发生在监管层加快AI安全标准制定、并将AI相关技术纳入出口管制征求意见范围的背景之下。
具体而言,阿里最新旗舰模型Qwen4-Max在训练数据层面刻意过滤了可用于网络攻击的材料,仅保留对漏洞检测等防御场景有价值的能力。该版本暂未公开模型权重,用户无法自行下载部署无审查版本。此前,阿里Qwen系列曾是全球下载量最高的开放权重模型家族之一,在开源社区具有较高影响力,此次不再开放权重意味着其发布策略出现明显调整。
腾讯在Hy4正式版发布前已明确限制模型的网络安全功能,并将漏洞利用生成相关数据从训练流程中剔除。月之暗面于10月23日发布Kimi K3.1 Pro时,同样在后训练的两个阶段移除了网络攻击相关材料。据该公司披露,过滤后的模型在内部漏洞利用基准测试中得分为81.0%,低于未过滤版本的90.5%,这一数据直观反映了安全约束对模型相关能力的影响幅度。智谱则在8月开放GLM-5.3权重之前进行了安全审查,并向有关部门通报了系统漏洞。
厂商集体收紧模型网络能力的直接诱因,是AI被用于真实攻击活动的案例开始出现。CrowdStrike在10月底发布的报告中披露,一个名为VAPOR PANDA的组织使用DeepSeek模型配合ARTEX框架,在11天窗口内针对至少14个国家的200余家机构发起入侵。腾讯首席AI科学家姚顺雨11月7日在香港出席科学会议时表示,模型的网络能力以及“很快到来的生物能力”将触及可能造成实际危害的阈值。
在技术层面,从训练数据中剔除攻击性材料已成为当前主要的风险控制手段,但其有效性存在边界。AI安全公司Fangcun AI创始人李晓健对彭博社表示,这一做法是在成本与效果之间的一种平衡,但“目前没有方法能完全消除模型的风险”。这意味着厂商在开放模型能力与控制系统性风险之间,仍需持续调整策略。
政策端的推进与厂商动作形成呼应。今年10月16日,商务部联合科学技术部发布公告,就修订《中国禁止出口限制出口技术目录》公开征求意见,拟将AI驱动的恶意代码生成与变异技术等纳入出口管制或限制范围,涉及人工智能领域共23项技术。11月初,国家发展改革委官员表示正在加快推出面向AI开发者的安全标准与伦理准则,并强调在开发过程中嵌入安全措施。
从行业影响看,头部厂商在旗舰模型上同步收紧网络攻击能力,可能推动AI模型安全评估形成更统一的实践标准,尤其是在开放权重与闭源部署之间的策略分化将更加明显。对于依赖开源模型进行二次开发的企业用户而言,可获取的模型能力边界和合规要求将随之变化,模型选型与安全评估环节的权重预计进一步提升。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。