观察5 min read
「决策模型」是什么?小模型的一个新用法
10 月初开始,陆续看到一个小类别出现:决策模型(decision models)。它输出的不是文本,而是一个选择、一个概率或一个分数。
它能干什么
- 路由:这条请求应该交给哪个模型或流程;
- 分诊:工单该进哪个队列;
- 工具选择:这一步该调哪个接口;
- 护栏:内容是否放行。
这类任务以前要么写规则,要么让大模型「顺便判断」一下。现在拆出一个 2B 左右的专用小模型来做:快、便宜、稳定。Cloudflare 开源的 Clef 系列、AWS Strands 团队的 Decider、Liquid AI 的 d1 系列,都在这个方向上。
顺带聊一组数字
这两天看到一份周报里的对比:在某公开智能指数上,开源第一的模型 46 分,闭源第一 58 分;但输出价格是每百万 token 0.87 美元对 20 美元——12 分的差距,23 倍的价格。
这组数字给我的直觉是:如果要做的是大量、高频、容错的小任务,「开源 + 够用」已经足够;追求最后那几分,通常只在少数关键场景才划算。当然,评测数字只是参考,落到自己的任务上实测才算数。
注:分数与价格引自 2026 年 10 月公开周报,仅作量级参考;榜单口径与价格随时会变,请以原始报告为准。