← 資訊首页 | 货源大厅

Perplexity开源决策模型v1.3发布:新增文本定位

2026-11-13 · 来源:MarkTechPost

Perplexity开源决策模型v1.3发布:新增文本定位

Perplexity开源决策模型Decider v1.3:支持按字符偏移抽取精确文本段,可用于NER与PII检测,Apache 2.0许可。

Perplexity发布开源决策模型家族新版Decider v1.3与Decider Flash v1.3。与生成式大模型不同,Decider不产出文本,而是对文本或图像输入回答是非题、多选题与打分题,返回每个标注选项的概率;每次请求携带一份共享状态加若干问题,思路与TypeSafe的Jev一脉相承。新版基于Qwen3.8-27B(Hugging Face标注26B),Flash版基于Qwen3.5-4B(标注5B)。

v1.3的头号新功能是Locate文本定位:按短标签或自由指令抽取精确文本段并给出起止字符偏移,面向命名实体识别(NER)、PII敏感信息检测与抽取式问答,仅限文本输入。实现上是每个字段新增一个locate标记、外挂一个区间头与LoRA适配器,骨干与决策头保持冻结;适配器刻意不合并且合并会损害决策准确率。基准中Locate平均69.0分(Flash 63.6),远超GLiNER large v2.5的33.6,但也是v1.3最弱的一项。

架构上,团队把生成式LLM改造成分类器:LM头裁剪到只剩选项token,线性决策头读取标记位置的隐状态输出概率,全注意力层改为双向(消融显示有益);v1.3还调整了跨问题注意力——共享状态可见所有问题,问题之间互不可见,全部问题仍在一次前向中跑完。训练分三阶段:公开数据全量微调、LoRA特化、LoRA视觉适配,权重按3个随机种子平均;Flash用KL散度从大模型蒸馏而来。

官方自报基准:63项任务查询分类平均准确率91.6%;72项检索与重排任务nDCG@10均值83.99,领先Qwen3-Reranker-8B与Jev 1.14;19项任务8种语言的多语言准确率88.16%(Flash 86.50%,Jev为85.41%);图像分类76.99%;与前沿LLM裁判在100万条真实请求、230余万个问题上的判罚一致率93.98%;鲁棒性上答案翻转率仅0.27%(Jev 1.14为2.69%至4.84%)。Flash在金融、编程与法律三类任务上落后Jev。

权重以Apache 2.0上架Hugging Face,也接入Perplexity Decisions API与OpenRouter。本地部署需CUDA GPU:v1.3的BF16权重约49GiB,Flash约8.5GiB;API输入最多约256K token(本地默认32768)。定价为输入每百万token 0.02美元(Flash 0.01美元)、输出免费,每百万次生产请求约26.47美元,不到Jev 1.14(68.10美元)的一半。官方建议:精细化量规决策用v1.3,高并发路由、分类与抽取用Flash。需注意所有成绩均为官方自报。


相关阅读


萬安算交所 AIXX · 萬安算交所 AIXX · 算力硬件实名会员制交易平台 · 进入货源大厅