EMON TECH MEDIA · PAPERS — DNA·52CD39

Towards Foundation Decision Models: Drex

Drex 是一族开源决策模型(Decision Model),在给定问题与选项时直接输出选项上的概率分布,不做自回归解码。其最大型号 Max 在 Decision Index 0.4.1 上取得所比较决策模型中的最优成绩,并以 183 ms 的典型响应时间明显快于对比的通用大模型。

发表日期

作者

Nischay Dhankhar, Alisher Amantay, Zhanibek Datbayev, Darkhan Akhmetov, Yash Shah, Nurmukhamed Ubaidullayev 等

影响力

82.4

阅读时长

约 5 分钟

标签

其他

Towards Foundation Decision Models: Drex

一句话概括

Drex 是一族开源决策模型(Decision Model),在给定问题与选项时直接输出选项上的概率分布,不做自回归解码。其最大型号 Max 在 Decision Index 0.4.1 上取得所比较决策模型中的最优成绩,并以 183 ms 的典型响应时间明显快于对比的通用大模型。

速览

  • 任务与方法:输入为「状态(文档、记录或智能体上下文,可含图像)+ 若干问题」,每个问题要求在多选项中择一、做是/否判断或在有序量表上打分;模型直接返回概率分布。
  • 模型规模:共 4 个开源模型,分别为 8B(DLM)、9B(v1.5)、35B 总参/3B 激活(v2.0)、27B(Max)。
  • 关键数字:Decision Index 0.4.1 公开套件上 Max 得 67.52,对比的 Jev 1.14.0 为 60.70;典型请求耗时 183 ms,GPT-6 Sol 约 2.0 s,Claude Opus 5.5 约 3.5 s。
  • 数据与开源:4 个模型全部开源,代码见 github.com/nace-ai/drex-decision-models;训练数据构成摘要未给出。

问题背景

自回归(autoregressive)大模型加长链式思维(chain-of-thought)推理,已成为新 AI 应用的默认方案,在广泛任务上准确率更高。

但摘要指出,这类方案在生产环境存在 3 个问题:答案不一致、输出需要额外解析、成本与延迟上升。

决策模型的思路是改变输出形式:用户提供问题与选项,模型一次前向即给出选项上的概率分布,跳过逐 token 解码。这样输出天然可解析,也便于比较不同选项的置信度。

方法要点

  • 输入形式:每次请求由 1 个状态与若干问题组成。状态可以是文档、记录或智能体(agent)上下文,可选带图像。
  • 问题形式:3 类,即在选项中择一、是/否判断、在有序量表上打分。三者都被归约为对候选答案的概率分配。
  • 训练流程:监督微调(supervised fine-tuning)与「基于调整反馈的强化学习」(reinforcement learning from adjusted feedback,RLAF)结合;Max 额外做视觉微调(vision tuning)。
  • 消融结果:RLAF 提升准确率;一致性损失(consistency loss)提升模型对选项顺序的鲁棒性。

关键结论

在 Decision Index 0.4.1 上,Max 于所比较的决策模型中刷新最好成绩:公开套件 67.52,Jev 1.14.0 为 60.70。

在 Decision Bench v4 上,Max 与 d3-turbo、GPT-6 Sol 统计上打平,落后 Claude Opus 5.5 约 1.6 分。在 DecideBench 上,它在决策模型中准确率最高。

效率方面,Max 处理典型请求耗时 183 ms;GPT-6 Sol 约 2.0 s,Claude Opus 5.5 约 3.5 s。摘要还称其输出在选项重排下保持稳定。

读后思考

这篇论文的立场不是「把模型做得更聪明」,而是「把输出接口改得更适合生产」。概率分布式输出把解析、重试与一致性校验的负担从工程侧移走,代价是模型只能回答被给定的选项。

从数字看,Max 与顶级通用模型在准确率上接近打平,但延迟低一个数量级。这提示决策模型的价值主要在成本与稳定性,而非绝对精度上限。

对智能体(agent)场景,这种「状态 + 多问题 + 概率输出」的接口较自然:一次调用可批量获得多个判断及其置信度,便于下游做阈值决策。

局限与开放问题

  • 摘要只给出与少数模型的对比,未说明评测集规模、题目分布与统计检验细节。
  • 「统计上打平」的判定方法、置信区间与重复次数,摘要未给出。
  • 选项由用户提供,模型无法给出选项之外的答案;开放生成能力如何保留,摘要未讨论。
  • 训练数据来源、规模与许可,以及 RLAF 中「调整反馈」的具体构造,摘要未给出。
  • 视觉能力仅 Max 具备,其余 3 个模型的多模态表现未提及。
  • 183 ms 的测量硬件、批大小与输入长度条件,摘要未给出。

本页为科普精读;细节以 arXiv 原文为准。就本篇提问请点左下角「论文研读助手」。