桌面
添加运营动脉到电脑桌面
安装后将用独立窗口打开,并可在电脑桌面快捷访问

Token日产140万亿:AI原生基础设施拼产效不拼算力

作者:萤火报告 2026-10-30 14:33 2
广告

本文解读:《2026AI原生基础设施白皮书:面向Token产效提升与价值创造的代理式AI基础设施新范式-蓝耘&甲子光年智库》 · 共 54 页 · 原文

白皮书的核心论点一句话能讲完:AI 基础设施的竞争单位,从算力规模换成了 Token 产效。它把 AI 原生基础设施定义为面向 Token 产效提升与业务价值创造的代理式 AI 体系, 由 Token Factory、Agent OS 与 Token Ops 三块构成。

支撑这个判断的是用量数据:2026 年中国日均词元调用量突破 140 万亿, 2025 年全年约 21100 万亿,规模已经大到不能只讲有没有算力。报告还引入 Y=O·F(T) 这个类比生产函数,说明光有词元不够, 还得有编排能力把词元变成任务结果。

词元不再只是计量单位,它成了要组织、要调度、要核算的经营对象。

白皮书封面:面向 Token 产效提升与价值创造的代理式 AI 基础设施

图源:《面向Token产效提升与价值创造的代理式AI》(第1页)

定义者系列:AI 原生基础设施

图源:《面向Token产效提升与价值创造的代理式AI》(第4页)

一、从算力中心到词元中心

报告用三阶段划分基础设施范式,边界很清楚。传统云计算以资源为中心,企业按 IaaS、PaaS、SaaS 分层调用算力、存储和开发平台, 比的是算力规模。

AI 云阶段以模型为中心,GPU、弹性服务、MaaS 与开发工具链被纳入同一体系,拼的是模型能力。

代理式 AI 阶段以词元为中心,价值交付取决于三件事:词元能否规模化低成本稳定生产、 能否在任务链路中转化为可交付成果、生产消费与交付过程能否被持续观测和优化。

报告还比较了四种基础设施形态的核心入口:互联网看流量,云计算看工作负载, 生成式 AI 看意图,代理式 AI 看任务。同一个位置上,互联网时代的核心生产资源是网络带宽,云是算力,生成式 AI 是大模型, 代理式 AI 是 Token 加 Token 生产。

入口从流量换成任务之后,调度的对象就从机器资源变成了整个执行过程。

前言:从电力到算力,基础设施如何重塑生产方式

图源:《面向Token产效提升与价值创造的代理式AI》(第5页)

二、数据不等于词元

报告特意澄清了一个常被混淆的点:数据不等同于词元。数据记录客观世界,类似自然资源,非标准化程度高,计量口径复杂,定价依赖具体场景, 成本集中在采集、清洗、标注与治理。

词元是大模型处理信息的最小标准化单元,类似工业产品,消耗可计量、服务可计价, 边际成本受推理计算与缓存机制影响。

两者在生产链上各占一段:数据造模型、模型生产词元、词元驱动任务。词元驱动任务这一段最能体现代理式 AI 与生成式 AI 的差别,多轮推理、上下文更新、 工具交互与结果反馈会让词元消耗随任务执行动态累积。

因此产业开始用智能路由、缓存复用、算网协同来优化词元产效,目标是在控成本的同时提任务完成质量。

数据是根,词元是燃料,能烧出多少有效功,才是这一轮竞争的真正胜负手。

摘要:Token Factory、Agent OS 与 Token Ops 三部分构成

图源:《面向Token产效提升与价值创造的代理式AI》(第7页)

三、140万亿之后,用量成了国力指标

报告给了一串用量数据,把词元经济的规模感拉起来。国家数据局数据显示,2025 年全国日均词元调用量从年初的超万亿增长到年末的 100 万亿, 全年词元调用量约 21100 万亿。

2026 年日均词元调用量已突破 140 万亿。高盛预测到 2030 年 4 月,全球消费级智能体和企业智能体 每月将分别消耗约 60 千万亿和 56 千万亿词元。

两者合计 116 千万亿,是 2026 年 4 月的 24 倍。报告还记录了另一个信号:2026 年 8 月,美国战略与国际研究中心提出 Tokenpolitik, 把生成与分发词元的能力定义为国家竞争力。

上面引用的数据都能在原文里找到出处,报告放在运营动脉(www.yydm.cn),搜标题即可。

遇到统计口径不一致的地方,回原文核一眼,比对两三篇二手解读要快得多。

词元的运行链路被拆成四段:生产、调度、流通、消费,分别对应供给端生产、 任务链路中组织分配计量、进入模型工具知识模块、在 Agent 运行中被持续消耗。

当计量单位被写进国力比较,基础设施的效率问题就直接变成了战略问题。

摘要续:产业新分工、新模式与新实践

图源:《面向Token产效提升与价值创造的代理式AI》(第8页)

四、Y=O·F(T):词元怎么变成钱

这是全篇最有解释力的一个框架,用来补上词元与业务价值之间的缺口。工业与服务经济的生产函数是 Y=F(K,L),资本和劳动投入推动产出;词元经济则写成 Y=O·F(T)。

T 是词元,每个词元都是一次预测,质量受上下文与模型能力影响;F(T) 是持续产生的词元流, 效能约等于单位预测质量乘有效生成规模。

O 是编排能力,由 Agent 框架与 Harness 工程构成,负责把词元承载的判断、计划与指令转换成任务行动。转化路径被画成四段:单个词元承载智能,词元流由模型持续生成,编排系统把智能转成行动, 最终以文档、代码、工单的形式交付业务价值。

业务结果还会反向校验词元的成本与收益,驱动模型与编排策略继续优化,形成生成、编排、兑现、反馈的闭环。

词元本身不产生价值,是编排能力决定了一个词元究竟能被放大多少倍。

Part01 新趋势:词元时代正在到来

图源:《面向Token产效提升与价值创造的代理式AI》(第9页)

五、Token Factory 、Agent OS 、Token Ops

第二章给出架构定义,三块分工明确,互不重叠。Token Factory 解决词元怎么持续规模化产出,由能源、生产底座、生产资源与生产车间构成, 组织电力、算力、数据与模型,核心使命是把分散的生产资源组织成稳定、弹性、可交付的生产能力。

Agent OS 解决 Agent 怎么组织能力、持续完成任务,由 Runtime 提供执行环境, 按需调用路由、模型、上下文、记忆、知识与工具,让模型输出进入可执行的任务流程。

Token Ops 贯穿生产与运行全链路,汇聚推理运行、Token 计量、Agent 任务、身份权限、 生产设施五类数据,形成用量账、成本账、质量账、业务账四本账。

四本账的说法很实在:让 Token 调用可计量、可分析、可审计、可结算, 使向下的资源成本与向上的业务价值都能被量化。在这套框架下,蓝耘科技具体化为 Token Factory、AI Infra OS、Token Ops 与 AI Native Agent, 其中 AI Infra OS 分 L1 到 L4 四层。

三块的分工本质是:谁来生产、谁来编排、谁来记账,缺一块都跑不通。

趋势一:大国博弈焦点从地缘军事转向科技主导权

图源:《面向Token产效提升与价值创造的代理式AI》(第10页)

六、风改液与绿电:先解决能不能产

实践部分最硬的内容是智算中心的两条技术路径,直接对应词元生产的物理约束。芯片散热压力增加、传统机房功率密度有限、算力扩张导致用电激增,这三条约束决定了产能上限。

散热侧走风改液,把风冷设施改造成冷板式液冷。以蓝耘北京先进智算中心为例, 改造后单柜功率密度达 48kW,总配电不变可多承载 20% 的 IT 设备,年均 PUE 降至 1.2 以下。

能源侧走绿电,依托风光新能源弥补供给缺口。白城先进智算中心依托当地低电价优势, 实现火电与绿电双兜底,提升绿电就地消纳比例。

软件侧还有两道题:国产芯片缺乏 NVLink 高速互联,跨主机协同更多依赖 PCIe 与网络传输, 易产生通信与等待损耗;开源推理组件生产化门槛高,新增算卡难等比例转化为有效算力。

对应做法是自研 TT 分发调度框架,沿同构集群调度、异构混合调度到固件级调度演进, 目标把调度时延降至微秒级。

在国产卡上,多买一张卡并不等于多一份有效产能,这才是效率战的真实起点。

目录:新趋势、新范式、新分工与新实践四部分

图源:《面向Token产效提升与价值创造的代理式AI》(第2页)

七、独立智算服务商凭什么存在

第三章讲产业分工,逻辑起点是三类客户的需求各不相同,但都缺同一件事。云计算厂商峰谷波动大、扩容周期长、跨地域调度复杂,需要弹性产能和运营补位。

模型厂商自建算力投入重、异构适配难、运维成本高,需要稳定、高效、性价比更高的算力。国产芯片厂商规模采购少、适配成本高、非 CUDA 生态冷启动难,需要生态落地。

三方需求汇聚,催生了独立智算服务商。报告把它定义为算力生产的专业调节者, 推动产业从重资产自建走向分工与合作供给。

它承担三重角色:生产组织者负责适配芯片架构、统一纳管跨地域算力、按任务动态编排; 资产运营者负责建设运维、容量规划与能源管理;中立生态连接者负责把异构资源封装成可调用可计量的服务。

这门生意不是买卡再卖卡,卖的是把需求波动抹平的调度能力与资产周转效率。

八、效果计价与成本计价之间的桥

商业模式这一章抓住了一个真问题:客户看效果,供应商看成本,两个口径接不上。云服务按 GPU 卡时、存储和带宽收费,软件按账号和模块收费,大模型 API 普遍按 Token 消耗收费。

在模型 API 时代,用户自己决定输入内容和调用规模,词元消耗与使用量基本对应,按量计费说得通。但 Agent 开始承接客服、营销获客、招聘、代码开发之后,客户买的是任务结果, 关心的是工单有没有解决、招聘有没有完成,而不是消耗了多少词元。

报告给出的桥是把 Token 成本拆成资产与能源、生产运营、财务三类来源, 分别对上硬件与能源优化、生产运营提效、经营与资金优化三条管控路径。

价值侧则以任务为对象归集成本、评估质量与效果。桥搭起来之后,收费就能从单一用量计费 走向用量收费、能力收费、效果增值收费的组合。

按量计费回答的是花了多少,效果计价回答的才是这个钱花得值不值。

九、组织换骨架,治理盯行为

第三、四章把视角从技术和商业拉到组织与风险,这两块常被忽略但最难改。

组织上,任务成为新的中心,Agent 集群由人编排并围绕任务协同。四个要素同时变化: 资源单位由工时转向 Token,执行主体由人扩散为 Agent,治理重心由员工与流程转向 Agent 与任务, 任务处理方式由人工分解流转转向小规模人力编排大规模 Agent 执行。

治理上,对象从模型输出扩展到 Agent 行为,风险面包括恶意提示词注入、身份与权限滥用、 供应链风险、记忆投毒、工具与资源滥用。

行业实践围绕身份认证、权限管理、行为监控、输入输出控制构建框架, 监管层面则在风险分级、透明义务、人类干预与责任划分上形成方向一致但路径不同的共识。

实践侧,客户需求沿价值链分化成三类:大模型企业要算力做 Token 生产, AI 应用与传统企业调外部模型做调用,场景型企业把 Agent 嵌进流程做价值转化。

54 页全文、架构图与五个案例的完整描述,都在运营动脉(www.yydm.cn)上,搜报告名即可打开。

2026AI原生基础设施白皮书:面向Token产效提升与价值创造的代理式AI基础设施新范式-蓝耘&甲子光年智库
���������������������������2026�10�目 录 ��� � � F A � ���A � S T � A � T���� A � T 0 1 � � � T � � � � S�������� A � T 0 2 � � � � A � A � I � � � � � F I � I T I O � 1.1 �����AI������AI分���������1.2 分...
54 页 16 次下载 39.82 MB
广告

声明:除非特别标注,否则均为本站原创文章,转载时请以链接形式注明文章出处。如若本站内容侵犯了原著者的合法权益,可联系本站删除。

确认删除?
会员
教程
收藏
足迹
联系
  • 站长微信
顶部