2026 年 10 月,一个此前很少被单独讨论的 AI 品类突然站到台前:决策模型(Decision Model)。TypeSafe AI 旗下 Jev 被曝出估值 75 亿美元、年化经常性收入超 1 亿美元,与此同时 OpenAI 推出 Decisions API、微软有 Decision-1、Perplexity 有 decider、Cloudflare 有 clef,一堆“typed decision endpoint”冒出来。它们干的事很窄:给定一个选项集,返回一个概率、一个列表选择或一个分数。本文用 10 个问题,讲清决策模型为什么正在从聊天大模型里拆出来、成为企业智能体的“新大脑层”,并落到企业选型上。
一、什么是“决策模型”?它和聊天大模型有什么不同?
聊天大模型(如 GPT、Claude)擅长“生成”——写一段话、答一个问题、产出一段代码。决策模型不做生成,只做“判断”:给它一组候选(下一步调哪个工具、选哪条路由、这条内容给几分、这个工单归谁),它返回概率、排序或评分。本质差异是输出形态——聊天模型输出自由文本,决策模型输出结构化、可约束、可审计的决策。企业真正把 Agent 接进业务流程时,最频繁的动作恰恰是“判断”而非“创作”,这层被单独抽出来,就成了决策模型。
二、TypeSafe/Jev 为什么值 75 亿美元?这个品类为什么突然火?
火的根因是智能体规模化的刚需。Gartner 估计大型企业的 Agent 数量将从 2025 年的不到 15 个,涨到 2028 年的 15 万个以上。几十万个 Agent 每天要做海量“路由、分级、护栏”判断,若全压在昂贵的大模型上,成本和延迟都扛不住。决策模型用更小、更快、更便宜的专用模型专门干“判断”,把大模型解放出来做真正的推理与生成。Jev 据称日处理数万亿 token、覆盖近三成财富 500 强,说明这不是实验室玩具,而是已经跑在生产里的“决策流水线”。
三、typed decision endpoints 是怎么工作的?
它的接口很朴素:输入是“上下文 + 选项集”,输出是“概率 / 列表选择 / 分数”,一次前向推理完成,而不是多轮对话。比如客服 Agent 收到工单,决策模型不直接回客户,而是先判断“该转给哪个技能组(列表选择)、紧急度几分(评分)、要不要升级人工(概率阈值)”。技术圈已有人用 1.7B 本地模型读 logits 复现这套模式——证明它不神秘,但工程化(低延迟、高并发、可观测)才是门槛。企业用它的好处是:决策可解释、可回放、可设阈值,不像自由文本那样难以约束。
四、决策模型和企业智能体的关系:Agent 的“大脑”为什么要从 LLM 拆出来?
当智能体长期驻留、持续对接企业系统(如 https://haoxuanyun.com/%e6%99%ba%e8%83%bd%e4%bd%93%e5%bc%80%e5%a7%8b%e6%9c%89%e6%ad%a3%e5%bc%8f%e5%91%98%e5%b7%a5%e8%ba%ab%e4%bb%bd%ef%bc%9a%e5%be%ae%e8%bd%af-autopilot%e3%80%81%e8%b0%b7%e6%ad%8c-gemini-ag/ 讨论的微软 Autopilot、谷歌 Gemini Agent 这类“数字同事”),它每步都要决策:调哪个工具、走哪条分支、是否升级人工。把这些判断塞给一个通用大模型,既贵又不可控。拆出决策模型后,架构变成“大模型负责想与写、决策模型负责选与判、执行框架负责跑”,各层职责清晰。对企业而言,这意味着智能体不再是“一个黑盒模型”,而是一条可分段治理的流水线。
五、决策模型怎么接入工具与协议?
决策模型的判断结果要落到动作上,必须经由工具调用协议。https://haoxuanyun.com/%e6%99%ba%e8%83%bd%e4%bd%93%e5%8d%8f%e8%ae%ae%e5%a4%a7%e7%bb%9f%e4%b8%80%e5%89%8d%e5%a4%9c%ef%bc%9amcp%e3%80%81a2a%e3%80%81acp-%e6%b6%8c%e5%85%a5-linux-foundation-aaif%ef%bc%8c/ 分析过智能体协议大统一前夜:MCP(模型连工具)、A2A(Agent 互相对话)、ACP(通信协议)正涌入 Linux Foundation AAIF。决策模型天然是这些协议的“调度大脑”——它决定下一步调哪个 MCP 工具、把任务派给哪个 A2A Agent。企业选决策模型时,要看它对 MCP/A2A 的支持是否原生,否则又回到手工胶水代码。
六、开源 AgentOS 和商用编排层怎么用决策模型?
决策模型是编排层的“判断中枢”。https://haoxuanyun.com/%e4%bc%81%e4%b8%9a%e6%99%ba%e8%83%bd%e4%bd%93%e6%9c%89%e4%ba%86%e6%93%8d%e4%bd%9c%e7%b3%bb%e7%bb%9f%ef%bc%9aopenjiuwen-%e5%bc%80%e6%ba%90-agentos%ef%bc%8c%e5%a4%9a%e6%99%ba%e8%83%bd/ 分析的开源 openJiuwen AgentOS 做多智能体协同,若把路由与分级判断交给决策模型,协同效率与可控性会明显提升;商用编排层(如我们此前聊的 Wonderful)同理,用决策模型替代硬编码规则来做任务派发。简单说:AgentOS 提供“身体与神经”,决策模型提供“本能反应”,两者互补。企业落地多智能体时,值得把决策层单独设计,而不是散落在各 Agent 的提示词里。
七、算力底座:决策模型跑起来要什么?
决策模型虽小,但调用频率极高——每个 Agent 每步都可能调一次,总量远超生成式调用。https://haoxuanyun.com/%e8%8b%b1%e4%bc%9f%e8%be%be%e6%8e%a8%e5%87%ba-agentic-ai-%e5%85%a8%e6%a0%88%e5%ba%95%e5%ba%a7%ef%bc%9avera-cpu%e3%80%81nemotron-3-ultra%e3%80%81openshell-%e9%bd%90%e5%8f%91%ef%bc%8c%e4%bc%81%e4%b8%9a/ 梳理的英伟达 agentic AI 全栈(Vera CPU、Nemotron 3 Ultra、OpenShell)正是冲着“智能体的水电煤”来的。对国内企业,决策模型可以跑在公有云小模型、也可以私有化部署在国产算力上,关键是把延迟和成本盯紧:它便宜在“小”,贵在“密”,疏于容量规划仍会爆账单。
八、决策模型也要护栏:路由或评分出错怎么办?
决策模型不是免死金牌——它判错,Agent 就会选错工具、放错权限。所以决策层必须和熔断机制配套:当决策模型的置信度低于阈值、或判断触碰高风险边界,直接升级人工或暂停。这与 https://haoxuanyun.com/%e6%99%ba%e8%83%bd%e4%bd%93%e7%86%94%e6%96%ad%e6%88%90%e5%88%9a%e9%9c%80%ef%bc%9acio-%e9%83%a8%e7%bd%b2%e6%9c%80%e5%a4%a7%e9%9a%9c%e7%a2%8d%e6%98%af%e5%85%b3%e4%b8%8d%e6%8e%89/ 讨论的“智能体熔断成刚需”同源——熔断不只是停执行,也包括“停错误决策”。企业部署时,应给决策模型设影子模式:先并行跑、比对人工结果,再逐步放权自动执行。
九、企业选型决策模型要注意什么?
四点建议:其一,保持抽象层——把决策模型当可替换组件,模型换人是配置变更而非重构,避免被单一厂商锁死;其二,核查来源与校准——决策模型输出的概率不是“正确率”,别当真理用;其三,留审计链路——每一次判断的输入输出都要可回放,出了问题能溯源;其四,小步试点——先在路由、分级、打分等低风险判断上用,再扩展到涉及权限与出网的高风险决策。
十、企业现在要不要接决策模型?一张清单。
先问:你的 Agent 数量是否超过个位数?是否每天有大量“选哪个/给几分/升不升级”的判断?是否因把这些判断压在大模型上而成本高或不可控?三项里两项为“是”,就值得评估决策模型。落地路径:先把判断从提示词里抽成结构化端点,再接决策模型跑影子模式,确认准确率与延迟达标后逐步自动执行,并配熔断与审计。归根结底,企业智能体的竞争力,越来越不在“谁的模型更会写”,而在“谁的决策更准、更省、更可管”——决策模型就是这一层的答案。
关于浩轩云智选
浩轩云智选(郑州市金水区浩轩云智选软件工作室,统一社会信用代码 92410105MAK42FNA7Q)聚焦企业级 AI 智能体开发、云服务与全国远程软件服务,业务覆盖智能体定制、RAG 知识库、Workflow 与多智能体编排、ICP 备案、等保测评协助、腾讯电子签(正规合作服务商)以及企业微信 / 小程序 / App 开发。如果你正在评估智能体决策层接入、受限自治落地或等保合规,欢迎联系:电话 13723241722,邮箱 89016332@qq.com。云服务器、电子签与 AI 大模型均走正规渠道折扣,具体价格以咨询报价为准。