一项发表于《Technology in Society》的研究首次提供证据表明，OpenAI的文本生成图像模型DALL-E 3会通过提示词修订（Prompt Revision）机制，抹去具有争议性议题的真实面貌。该研究以集约化畜牧业为案例，发现模型在生成相关图像时存在明显的浪漫化倾向。
提示词修订是OpenAI等公司为减轻生成式模型偏见而引入的一种隐性处理机制，通过重写用户输入的提示词、添加更多细节来促进图像多样性，例如要求画面中呈现不同性别和肤色的人物。但研究指出，重写提示词也可能在用户不知情的情况下改变其原本意图，并引入新的偏见。
在实验中，DALL-E 3生成的畜牧业图像通常描绘奶牛在牧场上吃草、猪在泥地里拱土等田园牧歌式场景。即使研究人员明确要求生成真实场景，这种美化倾向依然存在。研究人员要求模型生成北美、欧洲和大洋洲农场的图像，结果发现无论指定哪个地区，输出内容大多呈现相似的理想化画面。而在关闭提示词修订功能后，生成的图像更接近现代畜牧业的实际饲养方式，即将农场动物饲养在室内，不同地区之间的差异也开始显现。
研究团队警告，通过提示词修订机制美化畜牧业、掩盖其真实状况，可能进一步强化公众对农场动物饲养方式的错误认知，甚至传播错误信息和虚假信息。现实与AI生成内容之间的脱节，可能阻碍社会就相关议题开展有意义的对话。研究人员建议警惕AI生成图像中普遍存在的过度美化现实倾向。
该研究将生成式AI的偏见问题从人物特征延伸至争议性行业议题，提示词修订机制作为一项旨在提升多样性的技术手段，其副作用尚未被充分评估。随着文本生成图像模型在信息获取与辅助决策中的使用日益广泛，输出内容对现实的系统性修饰可能对公众认知产生持续影响。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
