盲目追求大模型其实在浪费你的 token

我们用 AI 跑复杂任务，经常要等很久。

大家都在追更智能的模型，而很多场景其实很简单，根本用不着那么重的模型，有时候速度快、成本低会更合适。

前 OpenAI 研究员最近推出了一个叫 Jev 的新模型。它跟以前的路线不同，不搞通用生成，专挑分类和判断的任务来干。

在这个场景下，它不跟你多废话，不吐大段文字，直接给判断和对应的置信概率。推理延迟压下来了，算力开销省下来了，跑得极快，成本很低，幻觉也少了一大截。

和以前的模型比较，训练逻辑发生了改变。原来大家用 RLHF（基于人类反馈的强化学习），总想让 AI 学会共情，结果人类不喜欢的全被筛掉，反倒把判断的可信度给磨没了。

Jev 换成 RLCD（reinforcement learning calibrated decision 基于校准决策的强化学习）专门校准模型的置信度，每次给结果都带上对应的判断概率，快速给业务系统用。

拿 AI客服来说，以前扔一个问题过去，模型还要深思熟虑半天吐一段长建议；现在 Jev 几十毫秒就能吐出结构化结果，比如 90% 的概率该扔给账单部门，整个路由效率直接拉满。

后面我们搭软件或者编排 Agent，很多环节无非就是做个路由或者分类，犯不上浪费大模型的算力去傻等，Jev 刚好把这种算力错配给补上了。

这就像《思考，快与慢》里的系统一和系统二。系统一靠直觉快思考，系统二靠逻辑慢思考。以前用大模型总在慢思考，而我们生活和业务里的大多数决策，靠直觉就能定。不需要处处都挂着思维链，快决策模型就能把很多事干好。

背后的本质，其实是对 Token 经济性的追求。未来的模型应用架构一定是分层的，不是所有地方都要堆最贵、最大的前沿模型，小模型定方向，大模型做深思，效果也会很不错。

杀鸡焉用牛刀，我们更需要用最契合的智能形态，去拿最高 ROI 的业务结果。

最初发表于公众号「阿Ken聊AI商业」，2026-09-20。