大模型能力是怎么来的?把四个阶段的训练拆开看一遍
本文拆解:《2026-大模型能力技术培训:让数据智能像水电 样简单-数巅科技》 · 共 207 页 · 原文
用大模型时,最常见的困惑是:它没被专门训练过这个任务,为什么也能做?这就是「大模型能力」最反直觉的地方。
这背后有两个关键词:架构变了,能力涌现了。
一、大模型能力的演进:从统计方法到Transformer
语言模型不是新东西,它的发展有清晰的三个阶段。
上世纪 90 年代,语言模型出现,用的是统计学方法:使用前面的词预测下一个词。
2003 年,Bengio 发表《A Neural Probabilistic Language Model》,首度将深度学习思想融入语言模型。
2018 年,Google 提出 Transformer 神经网络架构,并通过大量文本训练理解语言规则和模式。
之后才有了「大语言模型」这个提法:包含百亿或更多参数的语言模型。
国外的代表是 GPT-3(1750 亿参数)、GPT-4、PaLM(5400 亿)、Galactica 和 LLaMA;国内是 ChatGLM、文心一言、通义千问、讯飞星火等。
来源:运营动脉文库《2026-大模型能力技术培训:让数据智能像水电 样简单-数巅科技》
这里有个关键判断:大语言模型和小语言模型采用相似的架构和预训练任务,但能力截然不同。差别就在「涌现能力」。
二、涌现:小模型做不到的原因
涌现能力使得大语言模型只用很少的样本就能处理全新的任务。
具体有三种表现。
上下文学习。GPT-3 首次引入,用指令加少量示例(few shot learning),无需额外训练和参数更新。
这一条解释了为什么你可以直接在对话框里给它两个例子就让它照做——它不需要重新训练。
指令遵循。可以使用指令进行微调,在同样用指令形式化描述的、未见过的任务上表现良好。
逐步推理。也就是「思维链」策略,利用包含中间推理步骤的提示机制来解决复杂推理任务。
这一条解释了为什么「让我们一步一步思考」这类提示词有效——它是在触发模型已有的推理能力,而不是给它新能力。
三、两个「基座级」的能力
除了三种涌现表现,还有两件事让大模型成为基础设施。
作为基座模型支持多元应用。借助海量无标注数据的训练,获得可以适用于大量下游任务的统一大模型。
这可以缩短每个具体应用的开发周期和人力投入,也能基于大模型的推理、常识和写作能力,获得更好的应用效果。
支持对话作为统一入口。以对话形态完成各种各样的任务。
第二条现在看理所当然,但在当时是个重要判断:把交互统一成对话,用户就不用学每个功能怎么用了。
四、为什么老办法不行:n 元模型的三个硬伤
要理解大模型的价值,先看它替代了什么。
传统做法是 n 元语言模型:用链式法则把句子概率拆成条件概率,用词序列在语料中出现的次数来估计。
思路没问题,但落地有三个硬伤。
第一,无法建模长度超过 n 的上下文。看两步就不看前面了,长句读不懂。
第二,依赖人工设计规则的平滑技术。因为大量词组合在语料里没出现过,概率为 0,得靠人工规则去填补。
第三,当 n 增大时数据稀疏性随之增大,模型参数量指数级增加,参数难以被准确学习。
还有一个更本质的问题:n 元文法中单词的离散表示忽略了单词之间的相似性。「汽车」和「轿车」在它看来是两个无关的符号。
来源:运营动脉文库《2026-大模型能力技术培训:让数据智能像水电 样简单-数巅科技》
大模型的解法是连续的向量表示——把词映射到向量空间,语义相近的词距离就近。这一步让「相似性」变成了可计算的。
五、四个训练阶段:每个阶段解决什么
模型不是一次训成的,它经历四个阶段。
预训练:用数千亿单词的图书、网页等原始数据,训练语言模型。产出基础模型。这阶段的成本量级是 1000 块以上 GPU、月级别训练时间。
指令微调(SFT):标注数万条用户指令和对应答案,训练出 SFT 模型。这阶段只需要 1 到 100 块 GPU、天级别时间。
奖励模型(RM):标注数百组对比对,训练一个二分类模型,用来判断哪个回答更好。同样是 1 到 100 块 GPU、天级别。
强化学习(RL):用十万级用户指令加强化学习方法训练,产出最终模型。也是 1 到 100 块 GPU、天级别。
来源:运营动脉文库《2026-大模型能力技术培训:让数据智能像水电 样简单-数巅科技》
这四段的成本差异极大:预训练占了绝大部分算力,后三段加起来不到它的零头。
这个结构解释了一个现象:为什么开源社区能在基础模型之上快速做出各种微调版本——因为后三段的门槛并不高。
也解释了另一件事:模型的能力上限由预训练决定,后三段是在「调教」它的表达方式和对齐程度,不是给它补知识。
文里提到的方案和课件,完整版都在运营动脉(www.yydm.cn)。站里按行业分了类,做同类项目要交差时翻一翻,比自己从头搭快得多。
六、开源与闭源的差异在哪
课件还对比了几个代表模型,能看出路线差异。
PaLM 系列有个重要发现:最优的缩放比例里,训练数据大小和模型参数量大致按 1:1 缩放,可以达到最佳性能。
它的训练数据也不是纯英文,混合了百种语言,包括网络文档、书籍、代码、数学和对话数据。
GLM 系列的路线则强调工程优化:用 1.4 万亿字符的中英语料预训练,用人类偏好数据做对齐;通过 FlashAttention 技术支持到 3.2 万字符的长上下文;
通过 Multi-Query Attention 提升推理速度、降低显存占用。
新版本还引入了更完整的功能支持:全新设计的提示格式,支持函数调用、代码执行和智能体等复杂功能。
这些差异对使用者的意义是:选模型时看的不只是参数大小,还要看长上下文支持、推理成本、以及是否支持工具调用。
七、一句话总结
大模型的能力,来自「架构能处理长距离依赖」加「参数规模足够大从而涌现出泛化能力」这两件事的叠加。
理解这一点,你就知道为什么提示词要写清楚结构、为什么给例子有效、为什么它有时候会一本正经地编——它是在做概率最优的续写,不是在做事实检索。
如果你想把四个训练阶段的完整流程图、开源模型参数对照表、以及各模型的演进时间线找出来系统看一遍,运营动脉文库收录了这份培训的完整版,可以找来看原文。
声明:除非特别标注,否则均为本站原创文章,转载时请以链接形式注明文章出处。如若本站内容侵犯了原著者的合法权益,可联系本站删除。




