桌面
添加运营动脉到电脑桌面
安装后将用独立窗口打开,并可在电脑桌面快捷访问
足迹
浏览记录
加载中...
查看更多

AI原生基础设施是什么?53页白皮书讲透三层架构

作者:什猫 2026-11-21 15:01 3
广告

本文解读:《AI原生基础设施白皮书》 · 共 54 页 · 原文

AI基础设施的竞赛,正在从"有多少卡"变成"每个词元花多少钱"。《AI原生基础设施白皮书》由蓝耘科技与甲子光年智库联合出品,2026年10月发布,共53页,分新趋势、新范式与新定义、新分工与新模式、新实践四章。

它给出的定义只有一句话:AI原生基础设施是面向Token产效提升与业务价值创造的代理式AI基础设施体系,由Token Factory、Agent OS、Token Ops三部分构成。这个拆分背后是一条清晰的价值链。Token Factory扩产能,Agent OS把词元变成可交付的任务结果,Token Ops让整条链路可观测、可优化。

算力只是原料,词元才是产品,这句话决定了新一代机房该怎么建。

白皮书封面

图源:《AI原生基础设施白皮书》(第1页)

一、三代基础设施,核心资源换了三次

报告用一张表把四代基础设施摆在一起对比,核心入口的变化最能说明问题。互联网时代的核心入口是流量,核心生产资源是网络带宽,关键任务是连接终端。云计算时代入口变成工作负载,资源变成算力。

生成式AI时代入口是意图,资源变成大模型,词元的角色只是计量单位。进入代理式AI时代,入口升级为任务,核心生产资源变成Token,关键任务拆成两条:Token生产与Agent运行时编排。

词元的角色也跟着变。它不再只是计量单位,而是同时充当"生产对象"与"运行燃料"。对外价值产出也跟着改写。前三代分别交出信息触达能力、应用运行能力、内容生成能力,这一代交出的是"代劳能力"。

目录

图源:《AI原生基础设施白皮书》(第3页)

二、数据不等于词元,这是两个层级的东西

报告专门用一节做概念切割,因为把数据和词元混为一谈,会导致整个成本模型算错。它的比喻很直白:数据是词元的根,记录客观世界,类似自然资源里的原油;词元是大模型处理信息的最小标准化单元,类似工业产品里的燃油。

差别落在四个维度上。数据非标准化程度高,计量口径复杂,定价高度依赖场景;词元标准化程度高,消耗可计量、服务可计价。

成本结构也不同。数据的成本集中在采集、清洗、标注与治理,沉淀为语料后复用的边际成本不明显;词元的边际成本很明显,受推理计算与缓存机制共同影响。

功能定位更不一样。数据影响模型的参数和知识边界;词元直接驱动Agent运行,影响的是运行成本、响应速度与交付质量。所以报告才说,在代理式AI生产体系里,词元才是真正的标准化生产单位。

AI基础设施范式演进

图源:《AI原生基础设施白皮书》(第14页)

三、三阶段生产链条:数据造模型,模型生词元

报告把生产过程拆成三段,每一段对应不同的投入和产出。第一段是数据造模型。原始数据经清洗、标注、去重、编码与质量控制后投入训练,把海量知识沉淀为模型参数。

第二段是模型生产词元。输入内容先切分编码为输入词元,模型基于上下文完成推理,生成输出词元,解码后变成文本、代码等内容。

第三段是词元驱动任务。Agent围绕任务目标做工具调度、状态维护、协作、多轮迭代执行,直到达到交付条件。

这个链条解释了一件事:为什么词元消耗会随任务复杂度非线性增长。因为每一轮模型调用都在处理输入词元、输出词元,任务越长,累积越多。

报告由此把算力产业的逻辑也改了。2023到2025年一季度是GPU保有规模决定产能,2025年一季度以后转向异构架构,2026年至今拼的是单位词元的综合成本与产出价值。

词元经济运行链路

图源:《AI原生基础设施白皮书》(第17页)

四、曲线有多陡:从0.1万亿到140万亿

报告引国家数据局数据:2025年全国日均词元调用量从年初的超万亿增长到年末的100万亿,全年词元调用量约21100万亿。到2026年,日均词元调用量已突破140万亿。报告另一张图给出的节点更细:2024年初0.1万亿、2025年初7.0万亿、2025年中30.0万亿、2025年末100.0万亿、2026年3月140.0万亿。

往前看,高盛的预测更大胆:到2030年4月,全球消费级智能体和企业智能体每月将分别消耗约60千万亿和56千万亿词元。合计116千万亿,是2026年4月4.8千万亿的24倍。

这些数字还有一层地缘含义。报告提到,2026年中国词元日消耗量达140万亿,词元消耗量首次成为国力对比指标;同年8月,美国战略与国际研究中心提出Tokenpolitik,把生成与分发词元的能力定义为国家竞争力。

报告的原话是,大国博弈的计量单位正从航母吨位转变为Token产量。

生产函数变化

图源:《AI原生基础设施白皮书》(第19页)

五、Y=O·F(T):把智能换算成业务价值

报告引入了"Y=O·F(T)"这个类比框架。在工业经济与服务经济里,生产函数是Y=F(K,L),K是资本、L是劳动。词元经济里,T是词元,是模型智能生成的基础颗粒,每个词元都是一次预测,质量受模型能力与上下文影响。

F(T)是持续产生的词元流,也就是智能供给的具体形态。报告把它近似为单位预测质量乘以有效生成规模。O是编排能力,由Agent框架与Harness工程构成,负责组织模型、工具与外部资源,把词元流中的智能导入任务执行流程。

Y是最终的业务价值,形态包括成本节约、效率提升、收入增长、质量改善。这个公式最有用的一点是它指明了瓶颈位置。词元本身不直接产生价值,价值取决于O能不能把词元组织成任务行动。

光把词元产得多不够,O上不去,多出来的词元只是成本。

运营治理框架

图源:《AI原生基础设施白皮书》(第20页)

六、三层治理:计量回答不了"有没有效"

报告说了一句很关键的话:词元计量只能回答"消耗了多少",无法判断"是否有效"。大量词元沉积在冗余上下文、错误路由、低质生成或无法落地的任务链路里,最终只会形成成本,难以沉淀为业务价值。

所以治理要分三层。生产层关注成本、效率与稳定性,动作包括成本结构优化、动态批处理、模型量化、推理加速、异构算力调度、缓存复用、液冷降PUE、算电协同。

运行层关注质量与可靠性,动作包括用量计量、智能路由、质量评估与反馈迭代、权限控制与审计。价值层关注价值与收益,动作包括有效词元识别、交付效果评估、收益归因。指标从"消耗多少"换成"有效词元占比"和"单词元价值"。

报告由此提出一个转向:词元治理的关键,是让词元消耗从可计量走向可观测、可评估、可优化。

AI原生基础设施概念图

图源:《AI原生基础设施白皮书》(第22页)

七、三层架构:谁管产能、谁管运行、谁管治理

回到定义本身。AI原生基础设施由Token Factory、Agent OS、Token Ops三部分构成,边界划得很清楚。Token Factory解决词元如何持续、规模化产出的问题。它由能源、生产底座、生产资源与生产车间构成,靠组织电力、算力、数据与模型扩大产能。

同时它以资源调度、能源管理和软硬件协同降低闲置与损耗。报告的原话是,核心使命是把分散的生产资源组织为稳定、弹性、可交付的生产能力。

Agent OS解决Agent如何组织各类能力、持续完成任务的问题。Agent接收自然语言输入后理解并拆解目标,Runtime提供执行环境,按需调用路由、模型、上下文、记忆、知识与工具。

它还要维持跨步骤、长周期任务的状态与信息连续性,让Agent围绕目标持续推进,而不是止步于单次模型响应。Token Ops贯穿生产与运行全链路,靠监测、分析、维护与反馈,让各环节状态可观测、问题可定位、能力可优化。

基础设施形态对比

图源:《AI原生基础设施白皮书》(第23页)

八、Token Factory:国产芯片没有NVLink怎么办

产能这块的难点被报告讲得很实在。国产芯片缺乏NVLink高速互联,多卡及跨主机协同更多依赖PCIe与网络传输。

后果是通信与任务等待损耗随集群规模扩大而加剧。开源推理组件生产化落地门槛高,新增算卡难以等比例转化为有效算力,直接推高词元生产成本。

蓝耘的解法分两层。调度框架自研TT分发调度框架,路径是"同构集群调度—异构混合调度—固件级ARM总线控制",目标是把调度时延降到微秒级。

推理引擎侧走"以缓存为核心"的路线,围绕KV Cache优化、跨主机显存动态共享、自适应批次调度三项能力,提高缓存命中率、缓解显存占用、减少任务等待。

模型接入与部署也做了工程化。接入环节用统一API聚合主流模型;选型环节用智能路由,按效果优先、成本优先、平衡三种模式动态选模型。

部署环节上PD分离,把Prefill和Decode分别部署到适配的算力资源上,用高速网络协同,减少算力错配。

蓝耘架构

图源:《AI原生基础设施白皮书》(第26页)

九、产业新分工:独立智算服务商为什么起来了

第三章讲分工变化。报告认为三方需求正在汇聚:云计算厂商要弹性产能应对峰谷,模型厂商要稳定高性价比算力,国产芯片厂商要加快软硬件适配与规模化落地。

三方交汇处,独立智算服务商兴起,承担三个角色:异构算力生产组织者、算力资产运营者、跨生态连接者。商业模式也跟着变。随着词元成本结构逐步可拆解、任务质量与业务效果逐步可计量,AI服务从单一资源计费走向组合计费。

组合包括用量收费、能力收费与效果增值收费。报告的说法是,供给方得以依据交付能力和业务结果定价,客户也能更清楚地衡量投入产出。

组织形态同步调整。Agent进入业务流程后,组织从人力层级协作走向人机协同,Agent成为承接具体任务的数字化角色。

治理边界也要扩。治理对象从模型输出扩展到任务理解、工具调用、过程执行与结果交付,需要覆盖身份权限、过程审计、质量评估与责任追溯。

这份报告的原文件,连同可对照的原始图表,都放在运营动脉(www.yydm.cn)上,随时能翻。

对着原文的图表再过一遍,比只看二手转述踏实,也不容易被断章取义的说法带偏。

十、落地样本:三类词元需求对应三种卖法

第四章按需求类型拆案例。报告认为客户需求沿词元价值链分化成生产、调用、价值转化三类。生产类需求来自大模型企业,核心是获得高性能、稳定、可弹性扩展的算力。对应的是智算中心、异构硬件适配、集群扩展与算力调度。

调用类需求来自模型能力消费企业,它们不直接生产词元,而是通过外部模型服务获取能力,痛点是接入门槛高、版本迭代难跟进、稳定性难保障。

对应的是MaaS平台,提供统一API、主流SOTA模型、弹性资源调度与持续技术支持。价值转化类需求已经不看模型能力,而看业务结果,难点在Agent建设、系统集成、专业知识适配与持续运营。

报告举的例子是把模型能力嵌进人力资源与民宿营销流程的Agent应用,让词元消耗转化为服务提效和经营收益。

对应到交付,报告给了三种词元服务模式:面向中小企业的公共Token服务、面向大模型厂商的专属Token服务、面向政务高校金融的私有化部署。

2026-AI原生基础设施白皮书-53页
���������������������������2026�10�目 录 ��P R E F A C E��A B S T R A C T���P A R T 0 1 N E W T R E N D S�������P A R T 0 2 N E W P A R A D I G M & D E F I N I T I O N 1.1 �����AI������AI分���������1.2 分...
54 页 7 次下载 17.83 MB
广告

声明:除非特别标注,否则均为本站原创文章,转载时请以链接形式注明文章出处。如若本站内容侵犯了原著者的合法权益,可联系本站删除。

确认删除?
会员
教程
联系
  • 站长微信
顶部