别急着把上下文窗口撑到10万Token。Baruch Sadogursky和Patrick Debois在最新分享里给出了一个反直觉的判断:编码Agent失败的根源,恰恰是上下文太“胖”了。堆满提示词的上下文窗口,不是助力,是噪音。
往好听了说,这是上下文工程(Context Engineering)的实践课;往坏了说,这是给那些迷信“更大窗口=更强AI”的人一记耳光。两位专家给出的药方很具体:懒加载技能(lazy-loaded skills)、版本化上下文制品(versioned context artifacts)、外部化记忆库(externalized memory banks),以及用LLM-as-a-judge做评估。就问你,这些词你听过几个?
核心逻辑不复杂。Agent不是靠“读得多”变聪明,而是靠“读得准”才可靠。把整个代码库塞进提示词,等于让Agent在垃圾堆里找钻石——它只会被噪音淹没。正确的做法是,像工程师管理依赖一样管理上下文:按需加载、版本控制、外部存储。300个精心挑选的Token,比10万个未经筛选的Token更有生产力。
这不是理论推演。Debois和Sadogursky都是DevOps和开发者工具圈的老兵,他们观察到的现象很普遍:企业上了编码Agent,结果发现它经常“一本正经地胡说八道”,根源不在模型能力,而在上下文投喂方式。把Markdown文件变成可靠的Agent工作流,这活儿听着不性感,但谁先做对,谁就能在AI编程落地竞赛里抢跑。
软件架构师和工程负责人该醒醒了。别再去调参找“魔法提示词”,先把你自己的上下文管理起来。记住这句话:上下文不是越多越好,而是越对越好。能驾驭Token的人,才配驾驭Agent。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。