☰
杰文斯悖论照进 AI:为什么 Jev 越便宜,判断的需求反而越多
2026/10/15 20:01:47 网站建设 项目流程

杰文斯悖论照进 AI:为什么 Jev 越便宜,判断的需求反而越多

最近 Jev 这个模型挺火。

不少人跑去测,跑去吹,总结下来它的卖点就两个,响应快、价格低。面对某些特定类型的选择题,它确实比大模型利索——但"快"和"便宜"到什么程度,取决于拿它跟谁比,第四节会用两家独立评测的数据拆开看。

我看了相关的讨论,也自己盘了一下,结论是,它大概率不是下一个主流风口。

但这事有意思的地方,恰恰不在产品本身。Jev 真正有价值的,是它用一种很直白的方式,戳破了一个比"又快又便宜"大得多的趋势。更关键的,它无意间把一个显式的、跨厂商的"判断层"摆到了台面上——而这一层未必属于任何一家大模型厂商。今天把这层意思拆开聊聊。

一、Jev 不是新物种,它是一个成本优化层

先把 Jev 到底是什么说清楚。

它的出品方是 TypeSafe AI,CEO 是前 OpenAI 研究员、InstructGPT 论文共同作者 Diogo Almeida。这家公司把它定位成 System One model,并明确说这是 “a new class of AI models”——一个新模型类别。它的工作方式和你熟悉的大模型不一样:不逐 token 生成文本,而是返回预定义 schema 内的值,再附带一个校准过的概率。动作词就是 classify / route / score / extract 这类——判断一段文本是不是垃圾、一句话该路由到哪个服务、这个请求要不要重试。

厂商当然愿意把它讲成一个"新物种"。但如果你看它在系统里的实际位置,它就是干这种"判断"的活,不写长文,不做复杂推理。

但往深一层看,它做的其实是一件工程化的事,把"判断"从"生成"里拆了出来,交给一个专用的、又快又便宜的模型去完成。

这很关键。因为一旦你这么看,Jev 就不再是"一个大模型的便宜替代品",而是一个成本优化层。它不改变你能不能生成好内容,它只改变你"在调用真正贵的东西之前,要不要先问一句"。

打个比方。你不会用重型卡车去送同城的一杯奶茶,你只是把"该不该叫卡车"这个判断,和"短途配送"这个执行分开了。Jev 干的就是那个"先问一句"的环节,而不是去抢卡车的工作。

所以我的第一个判断是,Jev 不是一个能替代大模型的"新物种"。它的位置在旁边,不在上面。

二、为什么我觉得它不会是主流风口

有两层原因。

第一层很直白,这类模型很快会被一窝蜂地推出来。响应快、价格低,本质上是工程取舍的结果,不是什么高不可攀的技术壁垒。而且这一幕已经在发生——Jev 本身不开放权重(参数量、模型类别、训练数据构成全部未披露),但社区已经冒出多个开源复现,APUS 也在 9/19 宣布了跨平台本地化方案(macOS/Linux/Windows,无 GPU 可跑)。先发优势撑不了太久。

第二层更根本。Jev 核心价值是"选择性调用",也就是替调用方判断"什么时候该用我、什么时候该用大模型"。但问题在于,这种能力大模型厂商自己也能做。如果厂商在 API 层面就把路由和降级做好了,调用方根本不用自己去判断什么时候调 Jev、什么时候调大模型,一行代码的事,平台替你兜底。

一旦厂商把这个能力吸收进去,Jev 作为独立产品的必要性就被削弱了。你不会再单独为一个"判断层"付钱,它会被打包进你本来就用的那个大模型服务里。

不过这里我要补一刀,免得把这个判断说得太满。厂商吸收归吸收,"显式、可控、跨厂商"的判断层,是另一回事。

如果你的路由逻辑藏进某家大模型厂商的黑盒里,你丢掉的是可观测性和控制权,哪一次走了小模型、哪一次升级了大模型、为什么,你全看不见。而 Jev 这种把判断层显式暴露出来的做法,真正的卖点不是"便宜",是"我能用自己的策略、在自己的代码里、跨厂商地决定要不要花这个钱"。这是一个抽象层,不是一个临时缺口。厂商能吃掉一部分,但 model-agnostic 的判断层已经有生态在卡位——LiteLLM 用 JEV 来做 Auto Router 的请求分级,classifier.dev 在其上提供免费分类 API,Spring 官方也在 9/21 发文接入。这恰恰说明它会沉淀成独立的基础设施,而不是 Jev 一家独占。

所以结论要修正一下,但方向反过来——Jev 这个具体产品未必能赢,它代表的"把判断显式化、工程化"的思路,不但会留下来,而且已经在变成独立的基础设施。

三、真正值钱的,是它揭示的趋势

如果只盯着产品,Jev 聊到这就够了。但我觉得它真正重要的,不是它这个东西,而是它无意间把一件事摆到了台面上,AI 的用户,正在从人,变成软件和 Agent。

这个转变很隐蔽,但影响极深。

过去十几年,AI 产品的设计对象是人。人需要解释,需要对话,需要被说服,需要一个像样的长篇回答。所以大模型被训练得彬彬有礼、长篇大论、乐于展开。

但当调用 AI 的不是人,而是一段程序、一个 Agent 的时候,需求完全变了。机器不需要你解释,不需要你展开,它要的是结构化输出——一个落在预定义 schema 里的 Choice,外加一个校准过的概率。Jev 返回的不是一段给人读的文字,而更像 { route: “billing”, confidence: 0.96 } 这样的结构(示意)。对人来说这不够友好,对程序来说,这正合适。

厂商宣称的"0% 类型错误",更准确地说是构造性保证而非实测准确率——输出被锁死在 schema 里,自然不会返回类型错的字段(dev.to 指出这是 structural rather than empirical;也有人指出这个对比本身不公平,因为 Jev 的输出本就不是自然语言)。这恰恰说明,系统一要的不是"说对话",而是"吐出结构正确的东西"。官方文档还点出,三类问题(Choice / Score / Noul)可以在同一次 API 调用里混合提交、各自独立评估,多加问题也不会产生 context-rot(上下文腐烂)——机器的提问方式是一次并行问完一批,而自回归生成模型做不到这一点。

当 AI 的主要消费者从人类变成软件,整个产品的设计重心就会迁移。解释和对话不再是默认项,确定性、延迟、单价、可校准的置信度,才是。Jev 恰好撞在这个迁移的节点上,这才是它值得被认真看一眼的原因。

四、杰文斯悖论,Jev 名字的由来,也是最狠的一刀

Jev 这个名字,取自经济学家 William Stanley Jevons(Latent Space 对创始人 Diogo Almeida 的访谈、以及央广网 9/20 的报道都确认了这一点),对应的就是他 1865 年《The Coal Question》里那个悖论。

十九世纪,蒸汽机烧煤的效率大幅提升,按直觉,耗煤量应该下降。结果恰恰相反,因为用煤更划算了,以前舍不得烧的场景全烧上了,总耗煤量不降反升。效率提升,反而放大了总需求。

把这个悖论套到"判断"上,画面就清楚了。今天一次像样的判断,如果对标前沿大模型(Arize 实测 Opus 5 单次约 18 美分),你舍不得到处用,所以代码里大量分支还是写死的规则。但按官方定价折算,一次 447 token 的判断约 0.002 美分(OpenRouter 博客给的例子,纯标价折算);LiteLLM 的 0.003 美分则是 240 次实测调用的实际用量按标价计费;真正端到端跑出每案成本的是 Arize——在真实工作流上每案约 0.04 美分。同口径对比 Opus 5 的 18 美分,约 440 倍、两个数量级起步。

这里得补一个参照系。厂商自己的口径是一个区间,更快 40x–200x、更便宜 40x–400x(发布稿对外标题给的是 200x / 444x,与文档里的区间略有出入);而两家独立评测给出的数字却差了约 17 倍——LiteLLM 拿它对标小模型 Haiku,测出 5.43x 更快、约 26x 更便宜;Arize 拿它对标前沿模型 Opus 5,则复现出约 95x 更快、约 440x 更便宜(68% 准确率对 73%)。值得注意的是,Arize 复现出的 440×,几乎正中厂商对外标题的 444×、也落在文档区间 40–400× 的上沿——第三方并没有抓到厂商夸大,被抓到的是"倍数"这个词本身:同一个模型,对 Haiku 是 26×,对 Opus 5 是 440×,两个数都是真的。所以Jev 的"快"和"便宜"到底多炸裂,高度看你拿它和谁比。这句话本身,反而成了"它不会是下一个风口"最硬的一块弹药:卖点里的性能,太依赖参照系了。

不过,悖论的逻辑仍然成立。当一次判断便宜到一个可以忽略的价,你还会舍不得到处用吗?不会。你会开始到处用。

而且我要补的这刀是,这里的增量需求,主要不是"从大模型那儿抢来的替代需求",而是凭空长出来的新需求。

想想你代码里那些 if/else。大量分支用的是写死的阈值和人工规则,因为"让每个分支都变聪明"太贵了,不划算。当一次判断便宜到一个可以忽略的价,这些分支会集体从"规则"变成"模型调用"。以前你懒得智能化的地方,现在随手就智能化了。

所以杰文斯悖论在 Jev 这里真正的动态是,需求不是从别处搬来的,是凭空长出来的。这恰恰就是悖论最迷人的地方,效率提升释放的不是节约,是欲望。

五、未来的 Agent 架构,大概率是分层分工的

把上面这些拼起来,一个很自然的架构图景就浮现了。

未来的 Agent 系统,不太可能是一个无所不能的大模型包打天下,更可能是分层分工,各干各的。

大模型(系统二),负责慢思考、复杂推理、长文本生成和顶层规划。它贵,它慢,但它能处理模糊、开放、需要创造力的任务。这是系统的"大脑"。

决策小模型(系统一),负责高频、快速、边界清晰的原子判断,路由、分类、风控、重试。它便宜,它快,它不跟你讲道理,但它能在百毫秒级给一个 yes 或 no。这是系统的"反射"。

代码和工具,负责执行确定性逻辑。该算账算账,该调接口调接口,不该用模型的坚决不用模型。

这个"快慢系统"的划分,和认知心理学对人类心智的描述同构:人类用基底神经节和小脑接管下意识行为,把前额叶腾出来干复杂的活。现在有意思的是,工程师正在 AI 系统里把同一张蓝图重新实现一遍——而且是用成本和数据逼出来的,不是用进化逼出来的。

这套分层不是我拍脑袋的推演。Arize 在独立评测里给出的生产级配比,几乎和上面一一对应:让决策小模型(System One)跑全量 trace 保覆盖度,只把"失败"和"不确定度高"的样本抽样送进大模型 judge——因为需要书面解释时才需要文本,而 System One 模型本身不生成解释。而在另一项内容审核测试里,Jev 拿到 96%、对 Gemini Flash-Lite 的 86%,单次决策便宜 58 倍;一个通用模型为同一条判断花掉 910 个输出 token,Jev 只花 85 个。也就是说,已经有独立团队把"系统一全量、系统二抽样"跑成了可执行方案,而不是停留在蓝图。

但分层不是免费午餐,这里有两个工程上的硬骨头,我想单独拎出来说。

第一根骨头是校准和升级。系统一给的不能只是一个答案,必须是一个带置信度的答案,以及一个更隐蔽的元判断,这次该不该把活甩给系统二。Jev 这类产品的护城河,不在模型本身,在这套"判断、给置信度、决定升级"的协议设计——而且厂商确实已经把它写进文档了:High 置信自动执行、Medium 谨慎推进、Low 不执行,并明确"阈值不该只有一个数",给出双阈值写法(confidence < 0.5 转人工、> 0.9 才放行高风险动作)。不过有个反直觉的事实:协议给了,支撑它的校准实证却还是空白。公开材料里没有 ECE、Brier 分数或可靠性图,RLCD 的训练方法和奖励函数也尚未完整公开,更没有展示输入分布偏移后校准是否还稳。换句话说,你照着官方阈值方案把线路接上,仍然不知道它给的 0.8 到底可不可信——这才是"护城河在协议设计"真正要补的那块。

第二根骨头是静默的级联错误。系统一的误判往往是静默的,它不报错,只是悄悄给错了。一个分类错了,下游的系统二根本不会被触发,错误就顺着管道一路走下去,直到在某个你完全意想不到的地方爆出来。所以分层系统的真正难点,不是"怎么分层",而是"怎么兜底",fallback 路径、升级触发,以及高 stakes 场景里那层人工 oversight——这其实该算系统的第四层,光靠代码层兜不住。而且,厂商自己的文档就给了这类"静默失稳"的一手证据:在 noul 这个原语上,同一命题下 noul 给到 0.22,Choice 里 yes 选项却只有 0.01;在退款判断上,refund 与 not_refund 两个互斥选项的概率之和竟是 1.19——结构化不变量被违反、概率加总超过 1。

也就是说,当你以为小模型"拍板"了的时候,它可能连自己输出的一致性都没兜住。而厂商自己的 Confidence 文档也把 confidence < 0.5 转人工写成了示例动作——连出方案的人都默认你需要这道兜底。

当然,把判断拆出来也不是白捡的。Arize 在零样本垃圾邮件分类上实测 Jev 98.3%(不微调、不用标注样本),而一个在 1.48 万封标注邮件上训练出来的 TF-IDF 逻辑回归拿到了 98.4%——两者只在 466 封邮件上判得不一样,而且几乎对半分。Arize 自己的评论很到位:2003 年那个需要训练数据的分类器,只是追平了一个什么都不用训练的判断模型。所以"用便宜小模型替代大模型做判断"这笔账,得按具体任务自己算——这也正是第二根骨头说的,fallback 和人工兜底不是可选项。

六、升维来看,这不是第一次"便宜的原子"改写世界

把视野再拉高一点,Jev 这类事一点都不新鲜,它只是"便宜原子改写软件写法"这条长河里的最新一朵浪。

晶体管便宜到可以忽略不计之后,一切带电的东西都变智能了。云计算按秒计费之后,以前舍不得常开的实例,现在一直开着。API 化之后,以前要养一队人干的活,现在一行 curl 就调走了。每一次,都是某个原本昂贵的"原子动作"被打到地板价,然后需求凭空暴涨,软件的形态随之改写。

“判断”,正在成为下一个这样的原子。

当推理变成基础设施里最便宜的那一层,软件的写法一定会变。以前我们写的是"如果满足条件 A,就做 B"的硬规则;以后我们更可能写的是"问一下小模型,它觉得该不该做 B,置信度够不够"。规则让位于判断,静态让位于动态。

而 Kahneman 用系统一和系统二描述人脑的那套框架,本来是认知心理学,现在成了 AI 系统的工程蓝图。一个描述人类心智的模型,反过来指导我们搭建非人类的心智,这件事本身,挺妙的。

七、所以,结论是什么

回到开头那个判断。Jev 会不会成为下一个主流风口,我倾向于不会。它卖的"又快又便宜",迟早会被大模型厂商吸收进 API 里;它作为独立产品的窗口,可能比很多人想象的短。

但 Jev 揭示的那件事,比产品本身深得多,AI 的用户正在从人变成 Agent,判断正在被从生成里拆出来、被打到地板价、被重新喂给软件。这个趋势不会因为它这个产品没火而消失,恰恰相反,它会以"基础设施"而不是"爆款产品"的形态,静静地渗透进每一个 Agent 系统的骨架里。

吹 Jev 的人,盯着的是它的价格和速度。看准它的人,盯着的是它背后那次架构迁移。

而杰文斯悖论在这一幕里最锋利的那一刀是:判断越便宜,被塞进代码里的判断就越多。Jev 这个产品会不会火,一点都不重要——重要的是它提前照出了那个画面:判断正在变成一个像电一样、便宜到可以随手用的原子,而 AI 的用户,正在从人,悄悄变成 Agent。下一次你写代码、纠结"这里要不要调一次大模型"的时候,答案也许不是换更大的模型,而是先让一个便宜的判断,替你决定。

这,大概就是 Jev 留给所有人最有价值的那句话。


围炉聊科技,一个认真聊 AI 与智能体基建的号。如果这期对你有点启发,欢迎点个「赞」和「在看」,或者顺手转发给那个还在纠结「这里到底要不要调大模型」的朋友。想第一时间收到更新,也可以给个星标 ⭐。

我们,下期见。

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询