人们理解大语言模型（LLM）的方式与其实际运作机制之间存在巨大鸿沟。用户看到流畅自然的措辞、礼貌的回应和快速生成的答案，大脑便会默认其中涉及人类逻辑。一些网络创作者甚至以诱导AI模型做出荒诞行为为乐，例如要求模型不跳数字地从1数到100，或者询问单词”seventeen”中字母”e”出现了几次。这些内容固然有趣，但当主流科技媒体和公共讨论围绕AI”逃离”服务器、发展秘密动机或威胁毁灭世界等严肃而恐慌的话题展开时，其背后的信息便失去了幽默感。
现代大语言模型交互界面的一个核心功能，是让用户误以为自己正在与一个有意识、能理解对话内容的实体交流。然而人们往往忽略了”人工智能”中”人工”二字的含义。AI并不真正理解它所处理的任何一个字符。从本质上看，大语言模型是一个极其复杂、拥有数千亿参数的概率文本预测引擎，本质上是一只非常复杂的鹦鹉。当AI聊天机器人说出”我爱你”或声称理解你的战略目标时，事实是它既不知道爱是什么，也不理解它刚刚称赞的简报中的任何一个概念。
AI甚至并不真正理解字母或单词的含义。它纯粹通过在海量训练数据集上计算出的统计概率得知，在人类语言模式中，字母串”I”之后，”love”出现在”you”之前的概率极高。AI并非从逻辑思维中检索事实，也不是在反思经验，它只是在计算哪个字符组合在数学上最有可能出现在下一个位置。
当AI被置于纯数学而非人类认知的视角下审视时，其最令人困惑的失败案例便完全说得通了。以AI数单词”seventeen”中字母”e”数量这一常见问题为例：人类只需看着单词数出四个”e”，但大语言模型并不像人那样看待单词。AI会将文本拆分为称为”token”的片段——这些片段代表整个音节或单词片段，而非单个字母。因此，模型看到的不是由字母组成的单词，而是一组预先切分好的符号单元，字母计数这类任务对其而言本质上是在进行一种它从未被训练过的操作。
这一认知偏差带来的影响不仅限于技术讨论。当企业决策者、政策制定者和公众将AI视为具有意图和情感的主体时，围绕AI安全、监管和部署的讨论便容易偏离实际。对AI能力的过度拟人化预期可能导致错误的投资决策和不切实际的部署规划，而对AI风险的过度戏剧化想象则可能引发不必要的恐慌性监管。理解大语言模型的真实运作方式——一个基于统计概率的文本生成系统——是进行理性技术评估和制定有效治理框架的前提。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
