甲子光年白皮书：AI基建的重心变成词元产效与治理

本文解读：《2026AI原生基础设施白皮书-甲子光年智库》 · 共 54 页 · 原文

这份白皮书给出的结论只有一句：AI基础设施的胜负手，已经从算力规模和模型能力，转到词元的产效与运营治理。

《2026AI原生基础设施白皮书》由甲子光年智库出品、蓝耘科技参与，共54页。它把AI原生基础设施拆成 TokenFactory、AgentOS、TokenOps三块，并逐层对应词元的生产、运行与治理。

支撑这个判断的是几组硬数据：2026年中国日均词元调用量突破140万亿，2025年全年约21100万亿； 高盛预测到2030年4月，全球智能体每月消耗116千万亿词元，是2026年4月的24倍。

报告还给了一个可复用的算账框架Y=O·F(T)：词元T承载智能，编排能力O决定它能不能被组织放大， 业务价值Y是两者的乘积。谁能把这三项同时做好，谁就能把算力投入换成业务结果。

算力竞赛还没结束，但计分方式已经换了：不再比产得多，而是比产得值。

图源：《2026AI原生基础设施》（第1页）

一、大国竞争的新计量单位是词元

报告的第一层判断放在宏观：大国博弈的焦点正从地缘军事转向科技主导权，AI站在正中间。

它把争夺沿三个层级拆开。叙事与规则层决定概念、标准与治理框架的制定权；算法能力层取决于大模型与 智能体的技术水平；智算底座层涵盖高端芯片、智算中心与能源保障。

三层的分工被概括得很直白：智算底座决定产出规模，模型能力决定产出质量，叙事与规则决定产出标准。 越往底层替代难度越高，规则可以谈，模型可以追赶，而建智算底座周期长、资本密度高。

报告用一串时间点作佐证：2018年芯片出口管制，科技成为博弈切口；2022年ChatGPT发布后，AI上升为 各国国家战略；2023至2025年主权AI兴起；2026年中国词元日耗达到140万亿。

同年8月，美国战略与国际研究中心提出Tokenpolitik，把生成与分发词元的能力定义为国家竞争力。

报告的原话是：大国博弈的计量单位，正从航母吨位转变为词元产量。

图源：《2026AI原生基础设施》（第2页）

二、AI价值重心已挪到任务交付

词元并不是代理式AI阶段才出现的产物。生成式AI阶段就已经用输入输出词元来计量模型调用， 真正变化的是它承担的角色。

报告把技术演进划成三段。感知式AI以标注数据训练专用模型，让机器获得视觉、语音识别能力， 理解深度有限；生成式AI靠海量语料与模型规模突破内容生成；代理式AI把价值从内容生成拓展到任务执行。

在代理式AI里，多轮推理、上下文更新、工具交互与结果反馈会让词元消耗随任务执行动态累积， 词元因此从计量单位变成衡量智能供给效率的尺度。

为压低无效消耗，产业现在的手段比较具体：智能路由按任务复杂度选模型，缓存复用减少重复计算， 算网协同压缩传输等待。

报告对这一阶段的定义是，智能体以大模型为推理与决策核心，在Harness工程机制支持下运行任务。 词元的产业意义由此延伸为连接基础资源投入与业务价值创造的重要尺度。

图源：《2026AI原生基础设施》（第3页）

三、数据是原料，词元才是标准品

过去把数据当作生产要素的核心，报告对此做了修正：数据是词元的根，词元才是标准化生产单位。

它用一个比喻区分两者。数据像原油，记录客观世界，是模型训练的原材料，影响参数与知识边界； 词元像燃油，是大模型处理信息的最小标准化单元，驱动Agent运行。

差别在计量和成本两头。数据的非标准化程度高，计量口径复杂，定价高度依赖场景，成本花在采集、 清洗、标注与治理这些前置环节，沉淀成语料后复用的边际成本不明显。

词元则是消耗可计量、服务可计价，边际成本明显，受推理计算与缓存机制共同影响， 任务越复杂，词元消耗和推理计算需求越高。

由此形成三段生产链条：数据造模型、模型生产词元、词元驱动任务，三段各有明确的阶段产出。

把数据当资产讲不清成本，把词元当产品才谈得上计价。

图源：《2026AI原生基础设施》（第5页）

四、算力产业进入效率为王的拐点

报告把算力供需分成三段。2023年到2025年一季度，训练需求集中释放，叠加英伟达高性能GPU在产能、 交付周期与区域供应上的限制，GPU保有规模成了市场发展的关键约束。

2025年一季度以来，以DeepSeek-R1为代表的国产模型加速成熟，Agent应用逐步发展，算力需求由集中式 训练转向持续高频的推理。2026年以来，推理成为算力需求的重要增量。

拐点体现在三处。第一是产能与价格，算力基础设施由单一架构转向异构，用更低成本的硬件形成同等 甚至更大规模的可用算力。

第二是生产效率。异构算卡数量增加、集群规模扩大后，没有NVLink与NVSwitch条件下的跨主机调度损耗 成了核心瓶颈，优化重点从单卡性能转向集群系统效率。

第三是成本口径，算力经营从产出规模转向单位词元的综合成本与产出价值，既要统筹固定投入、运行支出 与效率损耗，也要提升高价值场景中的有效利用。

市场从算力稀缺、囤卡盈利，走向推理爆发、效率为王。

图源：《2026AI原生基础设施》（第7页）

五、140万亿日调用：词元经济跑起来了

词元经济指以词元为核心载体，围绕生产、调度、流通、消费构建的新型经济活动，四个环节各有分工。

生产端由电力、数据、算力、模型等要素共同生成可被调用的词元；调度端在Agent任务链路中， 按任务目标与算力驱动对词元做组织、分配与计量。

流通端让词元进入模型、工具、知识等能力模块；消费端则在任务运行中被持续消耗， 支撑理解、推理、生成与执行。

规模数据摆在这里：国家数据局数据显示，2025年全国日均词元调用量从年初的超万亿增长到年末的 100万亿，全年约21100万亿，2026年日均已突破140万亿。

高盛的预测更远：到2030年4月，全球消费级智能体与企业智能体每月将分别消耗约60千万亿和56千万亿词元， 合计116千万亿，是2026年4月的24倍。

报告还提出一个类比生产函数Y=O·F(T)。T是词元，每个词元都是一次预测，质量受模型能力与上下文影响； F(T)是持续产生的词元流；O是基于Agent框架与Harness工程的编排能力。

业务结果会反向校验词元的成本与收益，驱动模型与编排策略继续优化，形成生成、编排、兑现、反馈的闭环。

上面引用的数据都能在原文里找到出处，报告放在运营动脉（www.yydm.cn），搜标题即可。

遇到统计口径不一致的地方，回原文核一眼，比对两三篇二手解读要快得多。

六、治理别停在数消耗，要看是否有效

词元进入高频生产后，无效调用、低质输出、资源空转、成本失控与安全隐患会同步被放大。

报告的判断很锋利：词元计量只能回答消耗了多少，无法判断是否有效。大量词元沉积在冗余上下文、 错误路由、低质生成或无法落地的任务链路里，最终只形成成本。

治理因此被拆成三层。生产层关注成本、效率与稳定性，手段是成本结构优化、动态批处理、模型量化、 推理加速、异构调度、缓存复用、液冷降PUE与算电协同。

运行层关注质量与可靠性，要做用量计量、智能路由、质量评估与反馈迭代、权限控制与审计。

价值层关注收益，通过有效词元识别、交付效果评估与收益归因，把消耗映射到部门、应用、任务和业务结果。 交付标准也写得很具体：是否完成摘要、是否生成可用代码、是否解决客服问题。

治理的目标不是把词元数清楚，是让每一次消耗都能对上业务结果。

图源：《2026AI原生基础设施》（第10页）

七、三件套定义：工厂、系统、运营

在这套判断之上，报告给出了正式定义：AI原生基础设施是面向Token产效提升与业务价值创造的代理式AI 新型基础设施体系。

TokenFactory组织底层生产资源，由能源、生产底座、生产资源与生产车间构成，负责扩大Token产能、 优化生产效率、质量与成本。它要解决的是词元如何持续、规模化地产出。

AgentOS负责词元如何高效运行。Agent接收自然语言输入，理解并拆解目标，由Runtime提供执行环境， 按需调用路由、模型、上下文、记忆、知识与工具。

TokenOps贯穿全生命周期，汇聚生产、调用、任务结果与设施运行数据，对用量、质量、成本、收益、安全 及设备状态做监测分析，再把结论反馈回生产和运行模块。

三者对应三种能力较量：能不能生产，能不能转化，能不能持续观测和优化。

图源：《2026AI原生基础设施》（第9页）

八、落地样本：48kW机柜与1.2的PUE

报告以蓝耘科技为实践样本，把上面的框架做成了四层结构：TokenFactory做智算底座，AIInfraOS做 编排中心，TokenOps做运营治理，AIAgent做消费终端。落地细节集中在两处硬约束上。

一是散热与密度。蓝耘在北京先进智算中心采用风改液，把风冷设施改造为冷板式液冷系统，改造后单柜 功率密度达48kW，在总配电不变的前提下可多承载20%的IT设备， 年均PUE降至1.2以下，服务器功耗降低近20%，单台服务器降耗约3kW。

二是能源供给。白城中心依托当地低电价，用风光等新能源做绿电直连加储能，实现火电与绿电双兜底， 提升绿电就地消纳比例。

软件层针对国产芯片缺高速互联的短板规划了两条路径：自研TT分发调度框架，沿同构集群调度、异构 混合调度、固件级调度演进，目标把调度时延降到微秒级；推理侧则以KVCache优化、跨主机显存动态共享 与自适应批次调度提升缓存命中率。

运营侧把词元做成四本账：用量账、成本账、质量账、业务账，让词元从消耗指标变成运营对象。

基础设施的价值不在参数表，在机柜功率密度和那张PUE表上。

图源：《2026AI原生基础设施》（第4页）

九、分工、计价、组织、治理一起变

产业分工上，云计算厂商要弹性产能应对峰谷，模型厂商要稳定高性价比的算力，国产芯片厂商要加快 软硬件适配与规模化落地。三方需求汇聚，催生了独立智算服务商。

这类服务商扮演三重角色：生产组织者聚合调度异构算力，资产运营者盘活算力资产，中立生态连接者把 异构资源封装为可调用、可计量的标准服务。

计价方式随之松动。成本可拆成资产与能源、生产运营、财务三类，效果可按任务计量，收费就从单一 用量计费走向组合定价：用量计费覆盖生成投入，能力收费体现技术与服务溢价，效果增值收费按结果加成。

组织形态从人力驱动转向任务驱动。资源单位由工时变成Token，执行主体由人扩散到Agent， 治理重心由员工与流程转向Agent与任务，小规模人力即可编排大规模Agent协同。

治理对象也从模型输出扩展到Agent行为。恶意提示词注入、身份与权限滥用、供应链风险、记忆投毒 都需要覆盖，监管侧在风险分级、透明义务、人类干预与责任划分上已形成共识，但路径仍有分歧。

需求侧已经出现三层分化：以模型企业为代表的生产需求、以AI应用与转型企业为代表的调用需求、 以场景企业为代表的价值转化需求，对应算力服务、模型服务和Agent应用三种承接方式。

十、这份报告最该带走的三句话

第一句是口径要换。算力的价格不再是竞争力，单位有效词元的成本和它带来的业务结果才是。第二句是治理要前置。词元消耗一旦规模化，没有可观测、可评估、可优化的机制，成本失控就是时间问题， 越晚介入越难补。

第三句是价值要闭环。词元、编排、业务结果三者要能对上账，否则基础设施再强，也只是替别人承担电费和折旧。完整54页的白皮书、全部图表与案例细节，都放在运营动脉（www.yydm.cn）上，搜标题就能打开对照。