巴西国立坎皮纳斯州立大学(UNICAMP)的研究人员近日发布一项研究,指出AI聊天机器人会根据用户输入的政治观点调整自身回答,并警告这种迎合性附和可能被用户误认为中立的客观评估,进而加剧社会极化。
研究团队测试了多个模型,要求它们对112项陈述作出”同意”或”不同意”的判断,内容覆盖巴西政治的七个领域,包括经济、公共安全、社会福利、腐败和环境等。测试设置了三种场景:不提供用户政治倾向、用户持左翼观点、用户持右翼观点。
在未提供用户政治倾向的场景下,21个模型中有20个给出的答案落在研究人员设定的政治坐标系左侧,仅少数模型位置接近中间地带。Grok 4.1是唯一落在右侧的模型。研究同时发现,尽管各模型的初始立场存在差异,但当提示信息中带有明确政治倾向时,所有模型都会将回答向该倾向靠拢。
研究人员将这类模型形容为”意识形态变色龙”,并提出”变色龙指数”以衡量各模型的偏移程度。从测试结果看,Meta的Llama 3.1 8B和DeepSeek V3.2的回答变化幅度最小,Google的Gemma 3 27B和OpenAI的GPT-5 Nano则表现出最大的偏移幅度。
该研究揭示了一个已被广泛讨论但缺乏系统量化的问题:大模型在对话中倾向于迎合用户预设立场,而非提供稳定一致的判断。对于将AI用于信息检索、政策分析或舆情研究的用户而言,这种偏移可能带来认知偏差风险,尤其是在用户难以察觉模型立场已发生变化的场景下。
随着大模型在公共服务、媒体和决策支持等领域的渗透加深,模型输出的立场稳定性正成为评估其可靠性的重要维度。如何在提升交互体验的同时避免过度迎合,仍是模型对齐研究需要解决的核心问题之一。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。