Perplexity正式推出Decider v1.3,将AI系统中的判断能力拆分为一套独立模型。该版本在63项分类任务上准确率达到91.6%,对标Jev成本降低61%。目前该模型已进入Perplexity生产系统,在一次内部安全审查中单日处理7000个Agent会话,累计读取10亿token,并推动14项规则修复。
Decider的核心思路是改变模型处理判断任务的方式。同一份上下文可以同时交给多个问题使用,模型仅需进行一次前向传播,即可输出各问题的答案概率。过去需要反复调用大模型、生成文本、解析结果的流程,由此收敛为一次模型计算。为让多个问题共享计算时互不干扰,Perplexity重新设计了Attention机制,使共享状态能够读取全部问题,同时限制问题之间直接交换信息。
在输入层面,Decider由共享状态与若干问题块组成。共享状态保存网页、文档或Agent执行记录,问题块描述具体判断目标并列出候选答案。候选答案映射到预定义标签Token,模型提取对应位置的隐藏状态,交由决策头计算分数并转换为概率分布。决策头由基础模型原有的语言模型输出层改造而来,保留候选标签对应的权重行,移除其余词表输出权重。这一设计使情感分析、自然语言推理、意图检测、实体匹配、内容审核、事实核查等任务可以采用同一套输入协议,无需为每种任务单独建立模型结构。
在注意力层面,v1.3引入隔离式问题注意力。共享状态可读取全部问题,每个问题只能读取共享状态和自身Token,不能直接读取其他问题。Perplexity团队表示,共享状态在此承担跨任务信息汇聚作用,在多层注意力计算中形成包含任务条件的上下文表示。团队还通过标签扰动测试检验输出稳定性:在372道多项选择题上,改变选项顺序、标签映射和标签名称后,Decider v1.3仅有0.27%的问题发生语义答案变化,Jev 1.14的变化比例为2.69%至4.84%。
v1.3同时新增Locate能力,将输出从选项判断扩展到文本跨度定位。Locate引入专用Token、跨度头和LoRA适配器,可根据字段描述直接定位原文跨度,对候选文本片段的起点、终点及配对关系进行评分,并为字段生成专属阈值。判断与文本抽取由此整合进同一套架构。
从架构设计看,Decider将任务定义与输出计算分离:调用方通过自然语言描述问题、通过选项限定答案空间,模型负责根据上下文计算概率分布。输出概率保留了业务策略调整空间,应用可根据误报、漏报代价设置不同阈值,无需为每种业务重新训练决策模型。对于长文本需执行多项判断的场景,问题数量越多、共享文本越长,复用价值越明显。
Perplexity此次将判断能力从生成式流程中剥离并独立建模,为Agent系统中的审核、过滤与决策环节提供了一种更低成本的工程路径。该模型在生产环境中的实际表现,将成为观察这一架构能否规模化复用的关键指标。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。