Towards Foundation Decision Models: Drex
一句话概括
Drex 是一族开源决策模型(Decision Model),在给定问题与选项时直接输出选项上的概率分布,不做自回归解码。其最大型号 Max 在 Decision Index 0.4.1 上取得所比较决策模型中的最优成绩,并以 183 ms 的典型响应时间明显快于对比的通用大模型。
速览
- 任务与方法:输入为「状态(文档、记录或智能体上下文,可含图像)+ 若干问题」,每个问题要求在多选项中择一、做是/否判断或在有序量表上打分;模型直接返回概率分布。
- 模型规模:共 4 个开源模型,分别为 8B(DLM)、9B(v1.5)、35B 总参/3B 激活(v2.0)、27B(Max)。
- 关键数字:Decision Index 0.4.1 公开套件上 Max 得 67.52,对比的 Jev 1.14.0 为 60.70;典型请求耗时 183 ms,GPT-6 Sol 约 2.0 s,Claude Opus 5.5 约 3.5 s。
- 数据与开源:4 个模型全部开源,代码见 github.com/nace-ai/drex-decision-models;训练数据构成摘要未给出。
问题背景
自回归(autoregressive)大模型加长链式思维(chain-of-thought)推理,已成为新 AI 应用的默认方案,在广泛任务上准确率更高。
但摘要指出,这类方案在生产环境存在 3 个问题:答案不一致、输出需要额外解析、成本与延迟上升。
决策模型的思路是改变输出形式:用户提供问题与选项,模型一次前向即给出选项上的概率分布,跳过逐 token 解码。这样输出天然可解析,也便于比较不同选项的置信度。
方法要点
- 输入形式:每次请求由 1 个状态与若干问题组成。状态可以是文档、记录或智能体(agent)上下文,可选带图像。
- 问题形式:3 类,即在选项中择一、是/否判断、在有序量表上打分。三者都被归约为对候选答案的概率分配。
- 训练流程:监督微调(supervised fine-tuning)与「基于调整反馈的强化学习」(reinforcement learning from adjusted feedback,RLAF)结合;Max 额外做视觉微调(vision tuning)。
- 消融结果:RLAF 提升准确率;一致性损失(consistency loss)提升模型对选项顺序的鲁棒性。
关键结论
在 Decision Index 0.4.1 上,Max 于所比较的决策模型中刷新最好成绩:公开套件 67.52,Jev 1.14.0 为 60.70。
在 Decision Bench v4 上,Max 与 d3-turbo、GPT-6 Sol 统计上打平,落后 Claude Opus 5.5 约 1.6 分。在 DecideBench 上,它在决策模型中准确率最高。
效率方面,Max 处理典型请求耗时 183 ms;GPT-6 Sol 约 2.0 s,Claude Opus 5.5 约 3.5 s。摘要还称其输出在选项重排下保持稳定。
读后思考
这篇论文的立场不是「把模型做得更聪明」,而是「把输出接口改得更适合生产」。概率分布式输出把解析、重试与一致性校验的负担从工程侧移走,代价是模型只能回答被给定的选项。
从数字看,Max 与顶级通用模型在准确率上接近打平,但延迟低一个数量级。这提示决策模型的价值主要在成本与稳定性,而非绝对精度上限。
对智能体(agent)场景,这种「状态 + 多问题 + 概率输出」的接口较自然:一次调用可批量获得多个判断及其置信度,便于下游做阈值决策。
局限与开放问题
- 摘要只给出与少数模型的对比,未说明评测集规模、题目分布与统计检验细节。
- 「统计上打平」的判定方法、置信区间与重复次数,摘要未给出。
- 选项由用户提供,模型无法给出选项之外的答案;开放生成能力如何保留,摘要未讨论。
- 训练数据来源、规模与许可,以及 RLAF 中「调整反馈」的具体构造,摘要未给出。
- 视觉能力仅 Max 具备,其余 3 个模型的多模态表现未提及。
- 183 ms 的测量硬件、批大小与输入长度条件,摘要未给出。