耶鲁大学研究人员近期开展的一项研究显示，AI聊天机器人在向用户提供选举相关信息时表现不一，其输出结果可能对选民获取的信息产生偏差，并在用户搜索过程中形成一层干预。
该研究让参与者使用AI聊天机器人查询选举相关信息，并对结果进行了评估。研究发现，聊天机器人在传递选举信息时存在信息扭曲的风险，其作为信息中介的角色可能影响用户最终接触到的内容。研究人员将这一现象描述为聊天机器人在选民搜索过程中充当了“干预层”，即用户不再直接获取原始信息，而是经过模型生成与筛选后的内容。
这一发现对AI大模型在公共信息场景中的应用提出了新的审视角度。随着大模型和智能体产品被越来越多地用于信息检索与问答，模型输出的准确性、中立性以及对原始信息源的忠实程度成为企业服务与AI应用领域关注的重点。对于提供搜索增强、知识问答类SaaS和AI应用的企业而言，如何在产品设计中降低信息偏差、提升结果可追溯性，是亟待解决的工程与治理问题。
研究同时表明，聊天机器人在选举等对信息准确性要求较高的场景中，其表现尚未达到稳定可靠的水平。参与者在借助聊天机器人获取信息时，所获得的内容质量存在差异，这一结果提示AI信息中介类产品在高敏感度领域的落地仍需更严格的评估机制与人工审核流程。
从行业影响看，该研究为AI应用在企业服务中的合规与可信度建设提供了参考。随着大模型能力持续渗透至信息检索、客户服务与知识管理等场景，模型输出的偏差控制与透明度将成为产品竞争与监管审视的关键维度。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
