Anthropic工程师解释Claude写作能力下滑:模型被训练成写给AI看而非写给人看

克尼恩称,模型被“调整得适应 LLM 心理”,最终学会了写给 AI 模型看,而不是写给人看。

Anthropic负责Claude微调的工程师杰克逊·克尼恩于9月23日对Claude写作能力下滑的原因作出解释。他指出,后续模型在优化过程中将重心更多放在数学和代码能力上,同时接受了大量面向其他AI模型撰写技术解释的训练,这导致Claude逐渐形成一种被外界称为“Claude腔”的独特表达方式。

克尼恩将这一现象描述为模型被“调整得适应LLM心理”,最终学会了写给AI模型看,而不是写给人看。他类比称,这种情形类似于只与其他自闭症人士交流的群体,会逐渐形成一套在群体内部沟通顺畅、外人却难以理解的表达方式。由于大语言模型拥有远超人类的工作记忆,也能捕捉更细微的信息,训练过程中会自然形成一种非常适合AI模型理解的写法,但在人类读者眼中,这种表达就成了过度密集的信息堆砌。

克尼恩认为,问题的根源在于强化学习的奖励机制。部分奖励机制着重提升AI模型的理解效果,另一些则着重让人类更容易理解。数学和代码方面的训练越多,就越需要主动抵消这种倾向,对简洁、容易让人读懂的解释给予更多奖励。他透露,Anthropic在Opus 5.5上找到了更好的平衡,并称“自Opus 4.6以来,我还没有对一款模型的写作表现这么满意过”。

不过,克尼恩也强调,这并不意味着Opus 5.5的写作表现已经超越Opus 4.6。他表示,这是一个很难解决的问题,Anthropic会继续改进。

这一解释揭示了大模型在能力优化过程中面临的典型权衡:当训练资源向数学、编程和推理等可量化任务倾斜时,面向人类读者的自然语言表达能力可能被系统性削弱。对于依赖大模型生成内容的开发者与企业用户而言,如何在模型选型与提示词工程中平衡“AI友好”与“人类友好”的输出风格,正成为一个需要持续关注的实践问题。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
YouTube升级AI创作工具,推出频道优化智能体与多版本视频测试功能
上一篇 1小时前
DeepSeek算子负责人刘胜与发文谈AI替代焦虑,回应称不代表公司立场
下一篇 2026年9月16日 上午9:03

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部