跳转至

Token 经济学与 AI 效率

📊 Level ⭐⭐⭐⭐ | 11.8KB

核心命题

AI 上半场卷"能不能用",下半场卷"用得值不值"。当模型可用性不再稀缺,焦点从智力上限转向 Token 效率(Token Efficiency = AI 时代的投入产出比)。Token 经济学的核心问题:每消耗一个 Token 能创造多大的价值?

Token 形式主义的陷阱

现象 本质
烧 Token 越多越受尊敬 衡量产出而非消耗
所有任务默认最强模型 杀鸡用牛刀
Token 成本公司享、产出个人享 免费食堂效应 → 浪费
Token 数十倍增长无核算 缺乏投入产出评估
根源:指标被当作目标本身 → 工具变成表演(与代码行数比、KPI 挟持无异)。

Token 效率三种工程方案

1. 任务分级

不同任务天然适合不同规格的模型。一句翻译和一次医疗诊断不应使用同一档模型。做好任务分级,即可带来投入产出效率提升。

2. 积分价格信号

痛点:模型输入/输出价格不同、缓存命中/未命中价格不同,多币种复杂性高。

解决:积分制(Credits/Points)作为内部结算货币——用户购买的不是 Token 量,而是一套标准化积分。不同模型对应不同积分;复杂任务消耗更多,简单任务消耗更少。 类产品:CodeBuddy、WorkBuddy、Cursor、Manus、Lovart

价值:

  • 屏蔽多币种复杂性,用户感知成本简化
  • 让用户认识到"智能是有层次的"——省钱只是附带结果
  • 差异化的分层定价变成用户可感知的产品机制

3. 模型自动路由

理念:用户不该在每次提问前判断"这值不值得用前沿模型"——AI 应用应自动完成这件事。

实践:腾讯 CodeBuddy auto 模式

  • 代码补全 → 小模型
  • 解释和生成 → 中等模型
  • 复杂规划、疑难问题 → 前沿模型 经济基础:不同模型定价分化明显(前沿模型贵 vs 擅长执行的模型价格低至接近免费),路由节约空间大。

前置条件:使用者 AI 素养

机制 依赖方
模型路由(Harness Engineering) 产品侧工程
任务分级 用户自己的判断力——需要理解模型能力边界
上下文质量 用户提供的上下文是否与任务相关,影响产出质量 + 积分消耗
AI 产品和用户能力必须共同成长,才能让 Token 效率真正落地。

AI 普惠三层路径

个人层

十亿用户级产品不可能用最贵 AI。国民级产品接入 AI 自然走向小尺寸模型——这是普惠和智能的最优解。

组织层(中小企业)

中小企业是 Token 经济学最值得关注的主体:

  • 没有海量 Token 预算,试错空间有限
  • 需要"月月算得过账、事事能办到位"的可靠助手
  • 需要可承担 + 可预期 + 可控制的 AI 投入

社会层

Token 成为新的社会资源(类似电力、带宽、公路),需要:

  • 分层调度体系
  • 合理分配的计价评估基础设施
  • 从个人咨询 → 组织业务闭环 → 社会算力资源调配的完整链条

深度分析

Token 经济学本质:用投入产出重新定义 AI 价值

Token 经济学的核心命题是 AI 下半场的价值衡量标准转移:从"智力上限"转向"投入产出比"。当模型可用性不再稀缺,焦点从"能不能用"变为"用得值不值"。这与工业革命时期从"机器能不能工作"到"机器用起来贵不贵"的转变如出一辙。Token Efficiency = AI 时代的 ROI,每消耗一个 Token 创造多大的价值成为新的度量衡。

形式主义陷阱的制度根源

Token 形式主义(烧 Token 越多越受尊敬)并非个体理性选择,而是制度错位的必然结果。当 Token 成本由公司承担、产出归个人享有时,免费食堂效应必然导致过度消耗。这与 KPI 驱动的代码行数竞赛、客服中心的接线量指标没有本质区别——指标被当作目标本身,工具变成表演。

三层方案的互补逻辑

任务分级、价格信号、模型路由三者构成一个完整的效率优化体系:任务分级建立认知,价格信号提供评估,路由实现认知落地的工程支撑。积分制作为中间层,屏蔽了多币种复杂性,让差异化的分层定价变成用户可感知的产品机制。

AI 普惠的结构性路径

Token 效率提升带来的 AI 普惠在三个层次同时发生:个人层(小尺寸模型适配国民级产品)、组织层(中小企业可承担、可预期、可控制的 AI 投入)、社会层(Token 成为新的社会资源,形成计量评估基础设施)。

使用者 AI 素养的瓶颈效应

Token 效率工程体系的瓶颈不在技术层,而在人的认知层。模型路由可以由产品侧的 Harness Engineering 支撑,但任务分级依赖用户对模型能力边界的理解,上下文质量依赖用户提供的任务相关信息是否相关。AI 产品和用户能力必须共同成长。

实践启示

对企业的建议

  1. 建立 Token 投入产出核算机制:区分哪些 Token 消耗带来真实生产力提升,哪些是默认最强模型造成的浪费。企业需要回答"这么多 Token 烧下去,有多少转化成了真实生产力"。
  2. 采用积分制或内部结算货币:让使用者感知智能是有层次的,简单任务用便宜模型,把预算留给真正需要前沿模型的复杂场景。价格信号比强制限制更有效。
  3. 配置模型自动路由能力:让 AI 应用根据任务特征自动选择合适档位模型,降低用户的认知负担和使用门槛。

对 AI 产品设计者的建议

  1. 积分制作为核心产品机制:积分制不只是计费方式,更是教育用户理解"智能有层次"的工具。产品设计应让用户无感地完成正确的资源分配决策。
  2. 任务分级能力的显性化:帮助用户理解不同任务应该用不同规格的模型,这本身是 AI 素养教育的一部分。
  3. Auto 模式作为默认选项:模型自动路由应该成为默认行为而非需要用户手动配置的高级功能。

对个人使用者的建议

  1. 培养任务分级意识:理解哪些任务适合用简单模型(代码补全、注释生成),哪些需要前沿模型(复杂规划、疑难问题),避免杀鸡用牛刀。
  2. 优化上下文质量:只提供与当前任务相关的上下文信息,减少模型在无关信息中搜索的 Token 消耗。
  3. 从追求 Token 消耗转向追求产出:衡量自己的标准是"用 AI 办成了什么事",而不是"烧了多少 Token"。

对 Harness Engineering 实践者的建议

  1. Token 效率是确定性产出的核心维度:让 AI 产出可预期、可衡量、可持续,Token 效率是其中重要指标。
  2. 模型路由是工程落地的关键:认知层面建立任务分级评估体系后,需要通过路由工程在执行层落地。
  3. 关注使用者 AI 素养的同步提升:再好的路由机制也需要用户具备基本的模型能力认知作为前提。

新增维度(2026-08-24 SUPP:Token 市场黑箱 / 缓存锁定 / 订阅经济学)

来源:InfoQ 编译 Pi 核心贡献者 Armin Ronacher 与 Ben Vinegar 播客对谈(v=6 c=7)。补充 token 经济学中「效率/定价」之外的「市场结构与锁定」维度。

Token 市场透明度黑箱

购买 token 时模型的量化程度(可能是 1.5 bit 的 DeepSeek 冒充 Flash)、实际版本、是否掺了别的模型用于训练、计费方式全都不透明——「买 token 像买毒品,不知道拿到的是什么」。 类比:在亚马逊花 50 美元买 10TB SSD,拆开发现是改过的 USB 控制器,报告自己有 10TB 实际只有几个 GB 在互相覆盖。

缓存锁定:不透明、不可迁移的基础设施勒索

切换模型时需从头重建缓存、重新消耗大量 token 恢复会话;缓存如何匹配、保留多久、命中和未命中如何计费全由提供商决定,依赖对方模型版本与推理系统,既不透明也无法随会话迁移。 Anthropic 是唯一让用户真正为缓存付费的公司;非 OpenAI 的转售方(如 OpenRouter 卖 token 的公司)可能故意破坏缓存命中率,因为非缓存计费对其更有利。

提供商基础设施级锁定

OpenAI 的多 agent 提示词直接加密,主 Agent 发给子 Agent 的 prompt 只能在 OpenAI 平台内部解密,无法跨平台编排——这是整个基础设施层面的锁定(不只是工作流)。新版本模型正快速抛弃「会话可移植性」,生态割据逼近当年 Apple/Google/Microsoft 的局面。

订阅经济掩盖真实成本 + token 转售黑市

Steve Yegge 为游戏项目开 12 个订阅,按真实 token 价格折算每月约 9 万美元、一年近 100 万美元,但项目年收入覆盖不了——低价订阅掩盖了 AI 真实成本,放大对 AI 生产力与商业价值的误判。 只要存在补贴订阅,就有人套利:token 转售黑市(约 1 万个 OpenCode 账号被打包转售);洋葱式商业关系(产品公司→路由器→推理服务商三层嵌套,各层分利润),类似 Spotify 与音乐厂牌——「你得学会卖爆米花」。

相关主题

相关实体