企业官网建设流程全解析

摘要：AI 不只会聊天。2026 年 9 月中到 10 月中，TypeSafe、Cloudflare、微软、AWS、vLLM 社区先后押注一类"不生成文本、只吐概率"的决策模型。微软官方给出的口径是 P50 延迟比 GPT-6 Sol 快 35 倍，其内部 Xbox Research 用例的成本降幅为 200 倍。这篇讲清它是什么、为什么快、怎么用、坑在哪。

一、先看你可能天天在写的一段代码

几乎每个跑 Agent 的团队，后端里都藏着这么一段：把工单丢给大模型，让它"只回答一个词"，再从一个自由文本里正则、兜底、重试、再兜底，把答案抠出来。问题不在逻辑，在于代价。模型为了吐出那一个词，走完了完整的自回归解码——你按写一篇作文的价格付了钱，拿到的却是一张只涂了 B 的答题卡。

更麻烦的是第二件事：你不知道它有多确定。你问"你有几成把握"，它会再写一段作文说"我有 90% 的把握"。但这个 90% 是生成的文本，和它真实答对的频率之间，没有必然联系。

2026 年秋天，一批专门做这件事的模型集中冒了出来。它们的共同点只有一条：不写文字。下面是这一个月的时间线：

OpenAI 也在这条线上。微软官方博文的竞品附录里列着 “GPT-6 Luna Decisions”，指向 OpenAI 开发者文档的 decisions 指南。这条赛道现在叫决策模型（Decision Model）。

有件事得先说清楚，免得把它当成横空出世的东西。分类器、reward model、零样本 NLI 分类，这些老早就有了。Cloudflare 在官方博客里也直接写了：classifier models 存在已久，Jev 带来的是新组合——换标签不用重训、输出受 schema 约束、概率是校准过的、单次前向就出结果。新的地方在这四点，不在"分类"本身。

二、它和 LLM 到底差在哪

一句话：通用大模型在生成，决策模型在打分。

你给它两样东西。一份状态，就是要被判断的对象，可以是一段文本、一张图、一段视频。一组问题，是你提前定义好的选项。它返回答案，外加每个选项的概率。全程没有一个字是临场编出来的。

问题分三种，各家接口基本一致：

同一次请求里的多个问题，对同一份状态并行求值。下面是 Cloudflare 官方博文里的示例（原样照抄），可以看到 state 与 questions 的结构：

curlhttps://api.cloudflare.com/client/v4/accounts/$ID/ai/run/@cf/cloudflare/clef\-XPOST-H"Authorization: Bearer$TOKEN"\-d'{ "model": "clef", "state": "Checkout has been failing for every customer for the last hour.", "questions": { "urgent": { "type": "noul", "instructions": "Is this support request urgent?" }, "team": { "type": "choice", "instructions": "Which team should handle this request?", "criteria": { "billing":"Payments, invoices, refunds", "technical":"Outages, errors, configuration", "sales":"Plans and upgrades" } }, "severity": { "type": "score", "instructions": "How severe is the customer impact?", "criteria": ["No impact","Minor","Major","Critical"] } } }'

TypeSafe 那边的返回长这样（示例取自 TypeSafe 生态文档站 madewithjev.com，数值为官方给出的示意值）：

{"model":"jev-1.13.0","answers":{"sentiment":{"type":"choice","choice":"mixed","probabilities":{"mixed":0.79,"negative":0.20,"positive":0.01},"confidence":0.69},"needs_follow_up":{"type":"noul","noul":0.83}}}

拿到的不是一段要解析的文本，是可以直接if的结构。probabilities说明它在各个选项间怎么分配，confidence说明这个分配有多集中。

有个细节新手几乎都会踩：问题的 key（比如needs_follow_up）不会发给模型。完整问句必须写在instructions里，criteria每一条要写成"这个选项代表什么"的描述，而不是一个干巴巴的标签。

三、为什么能快这么多

自回归生成像写字。你想表达"选 B"，也得一笔一画把 B 写出来，写的时候还要想着下一笔。决策模型像你面前摆着 A、B、C 三张卡，扫一眼，同时给三张卡打分。

Cloudflare 在官方博客里把实现讲得很具体：冻结 Qwen3.8-27B（Clef）和 Qwen3.5-9B（Clef-flash），联合优化一个 routing head 和 rank-256 的 LoRA。推理时 Qwen 只做一次 prefill，然后对所有合法 schema 选项并行打分。决策这一步是非自回归的，没有逐 token 生成的中间文本。更细一层，它用的是两阶段注意力路由：每个合法选项先从输入里收集与自己相关的证据，再让字段向量跨完整上下文做交叉注意力，最后才出分。词汇先验被保留下来，选项的语义不会在打分时丢掉。

延迟数字，全部取自各家官方发布的表格：

微软没在博文正文里给绝对毫秒数，只给了相对倍数：P50 比 GPT-6 Sol 快约 35 倍，比亚军 H2O-Lightning-4B v1.1 快 2.5 倍。第三方转述的官方对比图里出现过 85 ms（P95 125 ms），这个数我没在博文正文里找到，先按转述看待。

价格这块要分开看，各家不一样：

• 微软：输入 0.042 美元/百万 token，输出免费（官方 Pricing 段原文）。
• TypeSafe：同为 0.042 美元/百万输入 token。
• Cloudflare：Clef 0.24、Clef-omni 0.15、Clef-flash 由 0.09 降到 0.038（每百万输入 token）。Clef-flash 降价的同时，托管版上下文从 64k 缩到 24k，官方理由是只有 0.24% 的请求超过 24k；HuggingFace 上的权重未动。

微软内部给的几个数：Xbox Research 用它处理一万多条开放反馈，质量与 GPT-6 Sol 相当，快 14 倍以上、便宜 200 倍；Copilot 团队测下来质量比肩 GPT5.6 Luna，快 100 倍；Microsoft Discovery 的一致性提升 46 倍，速度 3 倍。这些都是微软自家用例。

四、校准这件事

先说什么是校准。气象台说明天降水概率 80%，如果一百个这样的日子里真有大约八十天下了雨，这个概率就是校准过的。微软把目标写在博文里：90% 的预测，应该在代表性样本上十次对九次。Cloudflare 的做法是 label-smoothed cross-entropy 配 Brier loss，另外开发了 RLCD（Reinforcement Learning for Calibrated Decisions）作为次级优化目标——给相邻的有序选项部分得分，奖励完全精确的记录输出，并对分布偏移加参考惩罚。这两个名字都出自 Cloudflare 官方博客。TypeSafe 没有公开 Jev 的后训练细节。

一个和真实准确率挂钩的数字，才能拿去做工程决策：

constdept=answers.department;consturgency=answers.urgency;if(dept.confidence>=0.8&&urgency.score>=2.5){awaitautoRoute(ticket);// 高置信，自动走}else{awaitsendToHumanReview(ticket);// 低置信，转人工}

把不确定的那一小撮流量交给更贵的大模型或者人，剩下绝大部分根本不进昂贵路径。通用大模型干不了这个——它吐出来的"我有九成把握"是个文本 token，你没法拿它当概率用，要么信，要么不信。

微软还测了鲁棒性。对同一请求做八种扰动（改写 state 和 instructions、换选项描述、重排选项、换 key、加无害的格式噪声），Decision-1 平均有 1.3% 的决策会翻转；其中选项描述被改写、选项被反转或打乱时，翻转数为零。这个数字的意义在于：你改一次提示词的措辞，线上行为不会整体漂移。

五、现在场上都有谁

按"怎么拿到手"分三类，比按公司分更有用。

纯 API，不用管机器。TypeSafe Jev 是这一类。9 月 15 日上线，上线不到一个月就宣布了 8.7 亿美元融资。据中文媒体报道，上线 3 天用了 1 万亿 token——这个数字我没找到官方确认，姑且听之。同一次请求里多问几个问题的边际成本几乎为零，所以"一个问题发一次请求"是这类模型最贵的用法。关于上下文长度有个口径分歧要留意：TypeSafe 侧文档写的是每请求 64k，state 加最长问题合计上限 32k；Cloudflare 官方对比表里把 Jev 记成 32k。按你自己的输入长度去选。

云厂商自家的 SKU。微软 Decision-1（Foundry、OpenRouter）和 Cloudflare Clef 系列（Workers AI）。开箱即用，有企业级鉴权和配额。代价是没有权重、不能微调，模型换代由对方说了算。微软在博文里明说会尽快把它 rebase 到其他模型上，包括 MAI 和 OpenAI 的模型——你现在 benchmark 的那个 checkpoint，过阵子未必还是它。

开源权重，自己部署。Cloudflare 的 Clef / Clef-flash / Clef-omni 都在 HuggingFace 上，Apache 2.0；AWS 的 Strands Decider 2B 在 GitHub；vLLM Semantic Router 的 Decision 3.0 是六档尺寸，全系 Apache 2.0，旗舰能同时吃多张图和视频。

Clef-omni 补上了音频和视频。它基于 Qwen3-Omni-30B-A3B-Instruct 的 MoE 骨干，去掉语音输出组件，冻结主干后训练 LoRA。官方测下来纯文本约 130 ms、图像约 150 ms、21 秒带声视频约 1.5 秒。不用再自己搭"语音转文字 → 再分类"的级联流水线。自托管要留意，这类 30B 级 MoE 的权重是数十 GB 量级，得多卡或量化。另外 Cloudflare 把 Clef 换到 SGLang 服务后，中位延迟快了 1.7 到 2.0 倍。

六、榜单怎么读

这个品类目前被引用最多的是Jev Decision Index，一个挂在 HuggingFace 上的社区榜单，微软博文里也提到了同类的 JevBench。据 Decision 3.0 发布材料转述，Jev Decision Index v0.3.1 覆盖 37 个基准、约 14 万道题，分五个等权维度，满分 100。

发布材料里给出的分数：d3（27B）公开集约 65.5（发布方口径 65.45），Jev 60.1，微软 Decision-1 53.2；视觉榜 d3 71.6。不同报道对同一分数有 64.7、65.5、65.45 三个写法，取哪个都不算错，但别把三个当三个模型。

这些数字要打折看：

• 绝大部分是发布方自己测、自己发的，第三方复现几乎没有。Cloudflare 诚实地在表里保留了 Jev 赢下 When2Call 和 BRIGHT 的事实，这种态度值得学，别的厂商不一定有。
• 各家延迟不是同一套硬件、同一套负载测出来的，横向比要小心。
• Decision 3.0 到今天才几天，模型卡里连输入 token 上限都没写（max_length为 null），也没有公开的校准数据。
• 微软的对比是"决策模型 vs 体量大得多的通用模型"，这个比法对它的论证有利，对你选型未必公平。

榜单用来看趋势。采购之前，在自己数据上跑一遍。

七、三件现在就能动手的事

把判断和生成拆开。翻一遍你的 Agent 代码，数一下有多少次调用其实是在问是非题、选择题。工具选哪个、要不要继续循环、这条内容要不要过审、检索结果相关不相关，这些全是分支判断。换成一次决策调用，延迟和成本都会掉一档。

"LLM as judge"可以换掉。评估流水线里让大模型给另一个模型的输出打分，是最普遍的烧钱姿势。它本质就是个 Score 问题：给一份量表，返回概率分布。微软把 AI judging 列进了 Decision-1 的目标场景。

阈值写进代码。决策模型返回的是数字，你的业务规则应该是上面那段 TypeScript 里的>= 0.8。这条线画在哪，取决于判错的代价：工单分错组是可逆的，退款不是。TypeSafe 侧文档的建议也是这个——阈值是经验问题，得在自己数据上测出来。

八、已经有人踩过的坑

• 它不会写东西。摘要、翻译、写回复都别找它。
• 概率不等于正确。校准说的是"说 80% 的时候大约 80% 是对的"。0.95 也可能是那 5%。
• Choice 必须选一个，所以选项列表永远留一条other。分类体系一旦有缺口，它会硬选一个错的。
• 并行问题没有依赖。同一次请求里的问题是并行的，“紧急程度"没法依赖"归哪个组”。有依赖就拆成两次调用。
• 别用 latest 跑已调好阈值的线上流程。模型一更新，你的路由结果可能整体漂移。
• 生态还碎着。各家请求格式像，但不一样。想让托管版和自托管版走同一套接口，目前没有哪家能直接给你——Cloudflare 做了 Jev API 兼容，这算是个例外。

九、最后

过去两年，Agent 的默认架构是一个大模型包揽一切。理解、规划、写作、判断，全走同一个端点。这带来一个别扭的现实：大量调用其实只要一个判断，我们却一直在为语言能力付费。

决策模型把判断单独拆出来，做成一个便宜、快、可度量的服务。贵的模型去干理解、规划、写作；便宜的扛下高频分支；"够不够确定"这道闸门，交给代码里的阈值。

判断这件事，第一次有了价格、有了延迟、有了概率。以前它藏在一段生成文本里，看不见，也管不着。

如果你不想接 API，还有条路：从 prefill 阶段直接抽 logits，自己搭一个打分器。Cloudflare 官方博客里提到，他们最初的实验就是这么做的——把 DiffusionGemma 的 logprobs 暴露出来输出确定性概率。门槛可能比想象中低。

一手来源

• 微软：《Introducing Microsoft-Decision-1, our model for fast decision-making》，Command Line，2026-10-09
  https://commandline.microsoft.com/microsoft-decision-1-model-foundry/
• Cloudflare：《Introducing Clef: our open-source decision models, and new RL fine-tuning platform》，2026-10-01
  https://blog.cloudflare.com/clef-decision-models/
• Cloudflare：《Introducing Clef-omni with full multimodality, plus a faster Clef and a cheaper Clef-flash》，2026-10-09
• TypeSafe 生态文档站（非官方域名，示意值来源）：https://madewithjev.com/how-to-use-jev
• 微软官方博文附录所列竞品：Quyet-1.0-Large、Surogate Rune 26B-A4B、deck-31B、H2O-Lightning-4B、Strands-Decider 2B、GPT-6 Luna Decisions（OpenAI decisions 指南）

口径说明：本文所有延迟、准确率、价格均为厂商公开发布的数字，未做第三方复现。凡官方未明确给出的数据，已在正文标注来源性质。融资金额来自公开报道。

你怎么看？你现在的 Agent / 后端里，有多少调用其实只是"让模型做个选择题"？评论区聊聊，我挑几个典型的场景算算换成决策模型能省多少。