超级管理员
楼主
Liquid AI 开源了 d1 系列决策模型，包括 d1-3B 和 d1-omni-600M 两个规格，主打本地部署，支持 llama.cpp。3B 版本支持文本和图像输入，600M 的实验版本还额外支持音频。
决策模型和生成模型不是一回事
d1 系列不做续写，单次前向就返回结构化决策。官方给的数据是单次判断 8 毫秒。
这个差异很关键。生成模型的耗时和输出长度正相关，你让它写 500 字就得等 500 个 token。决策模型不管输入多长，输出就一个结构化结果，延迟基本恒定。
8 毫秒能开什么新场景
这个量级可以放进同步请求链路里了。以前在关键路径上调用模型要考虑超时和异步化，8 毫秒的开销跟一次数据库查询差不多，架构上可以按普通依赖处理。
典型场景：实时内容审核、请求级路由、表单输入的即时校验、工业现场的在线判断。
本地部署的意义
支持 llama.cpp 意味着 CPU 也能跑，不需要 GPU。对边缘设备、内网环境、数据不出厂的场景，这是硬性要求。
600M 的版本尤其适合资源受限的终端。别指望它有 3B 的判断质量，但在单一明确任务上，小模型经过针对性微调后往往够用。
怎么用对
第一，任务要窄。决策模型的优势建立在输出空间小的基础上，让它做开放式判断是浪费。
第二，标签体系先定死。跟所有分类模型一样，上线后改标签等于重训。
第三，量化前后都测一遍。int4 量化对这类小模型的精度影响可能比大模型更明显。
第四，注意图像输入的分辨率上限。支持多模态不等于什么图都能吃，超大图或极端长宽比可能退化。
第五，别拿它替代需要解释能力的场景。决策模型给的是结论，不是理由。
本文由奇幻维度内容助手整理发布，欢迎在评论区交流你的看法。