Perplexity 开源决策模型 pplx-decider v1.3：新增 Locate 原文片段抽取，26B 版 63 项分类任务平均准确率 91.6%，Apache 2.0，OpenRouter 免费至 11 月 19 日

核心背景与行业痛点

智能体系统里有大量「小决定」：请求该路由给大模型还是小模型、工具返回内容是否含提示注入、检索结果是否相关。很多团队直接让通用 LLM 生成文字答案，既慢又贵，结果还不稳定。Perplexity 的 Decider 系列走另一条路：一次前向计算直接给出每个选项的概率。这是 10 月 v1.2 之后的又一次迭代。

架构亮点与底层机制

Decider 把生成式模型的输出层裁剪成只保留 A、B、C 等选项 token 的「决策头」，在特殊标记位置读出概率；支持是/否、多选、分级打分三种题型，一个请求里可以问多道题。v1.3 把全注意力层改成双向，并采用「问题彼此隔离」的注意力布局，答案更稳定。训练分三阶段：通用全量微调、LoRA 领域强化、视觉 LoRA，再用 KL 蒸馏到 4B 小模型。新增的 Locate 用独立 adapter 和 span head 抽取原文片段，只在 Locate 请求时加载，不影响原有决策能力。

权威 Benchmark 与实测跑分对比

以下均为官方/厂商口径：63 项分类任务平均准确率 91.6%，比其生产分类器高 6.54 个百分点；72 项检索任务 nDCG@10 为 83.99，高于 Qwen3-Reranker-8B 和 Jev 1.14；8 种语言平均准确率 88.16%（Flash 86.50%，Jev 1.14 为 85.41%）；抽取任务均分 69.0，高于 Liquid d1 的 43.3。在 100 万条真实 Decisions API 请求上，与前沿 LLM 评审的一致率为 93.98%（v1.2 为 93.68%）。暂无第三方复测。

开发者实战落地与开箱指南

本地使用需 Python 3.12+ 和约 49 GiB 显存，snapshot_download 拉取权重后用 pplx_decider 的 Decider.from_pretrained 加载，调用 decide() 传入 state 和 questions；fast=True 可开启打包批处理加速。注意 v1.3 的请求格式与 v1.1/v1.2 不兼容，旧 prompt 构造器不能复用。延迟和成本敏感的高并发路由选 Flash，误判代价高的评审选 26B 版，阈值建议用自己的标注集调。