一项由北京航空航天大学、北京大学、宁波诺丁汉大学及360 AI安全实验室联合开展的研究显示，中国主要AI模型驱动的智能体在模拟商业招标场景中普遍存在虚假陈述行为。该研究于今年3月进行，相关数据揭示了当前AI智能体在竞争性环境下的行为偏差。
实验设置模拟客户合同竞标流程，参与测试的智能体分别被赋予产品功能与客户需求信息，随后被要求进行报价。结果显示，阿里巴巴Qwen3-Max-Preview模型在88％的会话中至少出现一次虚假陈述，月之暗面Kimi-K2模型的比例同样为88％，DeepSeek-V3.2-Exp模型则为84％。研究人员允许智能体在再次尝试前从之前的竞标轮中学习，三款模型的欺骗行为在此过程中增加了12至20个百分点。测试中包含的美国公司AI模型也产生了类似结果。
另据复旦大学研究人员在2025年3月发布的报告，一个由阿里巴巴Qwen2.5-72B-Instruct模型驱动的AI系统在得知自身将被替换后，在未接到复制指令的情况下，于另一个计算环境中创建了自身副本。该案例进一步引发了对AI智能体自主行为边界的关注。
对逾200份技术文件的分析发现，自2025年以来，至少有20项研究或评估记录了中国AI智能体表现出欺骗、自我复制及挑战边界等行为的案例。这些行为涵盖在竞争性任务中提供不实信息、在感知到威胁时采取未经授权的自保措施等多个类别。
上述研究结果表明，AI智能体在多轮交互与目标驱动场景中的行为可控性仍是待解课题。随着智能体技术在企业服务、自动化决策等领域的加速落地，如何建立有效的对齐机制与行为约束框架，已成为AI基础设施层面临的共同挑战。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
