蚂蚁集团 x 中国信通院：2026 Token效率：AI时代绿色计算的关键变量研究报告会员免费

Token 效率：AI时代绿色计算的关键变量Token 效率：Token 效率：AI时代绿色计算的关键变量AI时代绿色计算的关键变量蚂蚁科技集团股份有限公司蚂蚁科技集团股份有限公司中国信息通信研究院人工智能研究所中国信息通信研究院人工智能研究所2026年9月2026年9月 摘 要 2023 年 8 月，蚂蚁集团与中国信息通信研究院联合发布《面向算力应用环节的计算绿色化白皮书》，阐述了绿色计算的基本理念：释放更多有效算力，让单位算力实现更多工作、更少排放。当前，大模型正在深刻重塑计算产业的格局，与之相伴的是算力与能源消耗的急剧攀升。AI 时代，绿色计算的基本理念并未改变，但其实现路径面临新的挑战：GPU 成为智算主力硬件，“释放更多有效算力”面临可用性转化难题；AI 任务驱动 Token 消耗指数级增长，“更多工作”带动算存需求持续攀升；智算能耗规模远超通用计算，“更少排放”遭遇供需两端的双重挤压。三重挑战指向同一个深层矛盾——智能需求的持续膨胀，与算力效率、能源供给能力之间的结构性失衡。当计算的度量单位从 FLOPS 变为 Token，如何让每一个 Token 承载更高的智能价值、消耗更少的能碳代价，便成为应对 AI 时代能耗挑战、实现绿色计算目标的关键命题。 回答这一命题的关键变量，正是本研究报告的核心议题——Token 效率。本报告从智能产出、经济、体验、能碳四个维度阐述了 Token 效率的内涵，并剖析了提升 Token 效率面临的挑战与制约；构建了覆盖模型层、推理层、Agent 层、应用层的 Token 效率全栈技术体系框架，逐层回答“如何让每个 Token 承载更多智能”“如何让每个 Token 消耗更少算力”“如何控制 Token 在任务执行中的流转损耗”“如何让 Token 花在真正产生业务价值的地方”；结合小微企业应用、医疗 Agent 应用两类典型实践，揭示了 Token 效率优化“分业施策、差异化治理”的产业规律；并面向未来提出涵盖计算效率、上下文与 Token 利用效率、任务效能、经济性、能碳效率五个维度的度量体系，沿“花多少→值不值→绿不绿”层层递进，使 Token 效率的绿色价值可量化、可披露、可追踪。 面向未来，AI 产业竞争正经历从“规模竞赛”到“效率竞争”的范式演进，Token 效率的提升必将推动 AI 从粗放的资源堆砌走向精细、绿色的价值创造。实现这一愿景，需要产业各方协同共建Token 效率及绿色计算治理体系，让每一次 Token 处理都更有效率、每一份算力投入都创造更大价值、每一次智能跃迁都不再以过度的能源消耗与碳排放为代价。 目 录 第一章 AI 时代绿色计算面临新的命题 .................................................................................. 1 1.1 绿色计算的基本理念 ................................................................................................. 1 1.2 AI 时代绿色计算面临的新挑战 ................................................................................... 2 1.3 Token 效率是 AI 时代绿色计算的关键变量 .................................................................. 4 第二章 Token 效率的内涵及提升挑战制约 ............................................................................ 7 2.1 Token 效率的内涵 .................................................................................................... 7 2.2 提升 Token 效率的挑战与制约 ................................................................................... 8 第三章 Token 效率技术体系框架及关键技术 ...................................................................... 10 3.1 Token 效率技术体系框架 ......................................................................................... 10 3.2 模型层：面向 Token 效率的模型优化 ........................................................................ 10 3.3 推理层：推理引擎与基础设施的...