产业深度2025.08.06国泰海通证券[AI产业深度]华为盘古大模型与异账AI计算平台,共同构建软硬一体产业研究中心的AI技术体系纳雁午(分析师)园0755-23976830探索构建其全栈AI竟bapyanxin@gtht.com标业界SOTA模型,转登记编号S0880513070005之择自研昇腾硬件潜力而暨身定做模型架构。这一双向协同进A]模型规模化应用中的系统性问题，并构建一个由软s园李嘉琪(分析师)为解决大规模分布式系统中的效率难题。随010-83939821上界普遍lijiaqi2@gtht.com,它制约了MoE模型在训练和推理登记编号S0880524040001纯性问题作为其软硬架构创新的核心方向,标也AI算法问题,拓展至在自研硬件上更勺园刘峰(研究助理)一方面,Pangul1oE通0755-23976068旨在通过结构性设计解liufeng6@gtht.com方面，PanguUltraMoE则通过系统级优化，以登记编号S0880124060013去来优化模型架构从而更好的适配异腾硬件,并通过贯这一软件、础,是新一代A1基础设施CloudMatri往期回顾其核心技内存池，在工程低了跨节点通信的性能差异硬件层面的发展不仅为上层PDC(Prefill-Decode-Caching)分离架构等软件创新提供了物Joby和Archar看国内理前提,也使其能通过大规模专家并行(LEP)和AIV-Direct等算子级优07.17利用硬件有效承载通信开销,换取软件层面的高并行与低延迟4,引领汽车产业攀顶全球价化，为产业研究之智能汽车系列(二)风险提示:1)大语言模型的技术进展不及预期。2)人工智能行业竞争格局变化带来的不确定性。3)硬件、算法或功能优化不及预期深度]扩散大语言模型(d.LM)开启大模型领域的重要技术路线试水空经济系列(七)飞行培训行业,卖方主导向买方市场演进2025.06.16请务必阅读正文之后的免责条款部分10f27
国泰海通证券产业深度目录1.盘古大模型的演进方向从追赶并对标SOTA级模型到为昇腾硬件量身定制姑型..411.盘古大模型系列的起点是PanGu-a确立基于昇腾与自研框架的技术路办12PanCu-2对稀硫化进行早期尝试,2023年就向万亿参数发起探索…13、盘古3.0提出“S+N+X”架构，面向多行业进行大模型落地…1.4.盘古5.0发布、盘古5.5全面拥抱MoE,体现从应用深化到架构升维的演进...62.PanguProMoE与PanguUltraMoE最大化昇腾硬件利用效率172.1.PanguProMoE以架构创新缓解负载不均衡82.1.1.专家负载不均衡是分布式系统的一个关键挑战pp2.12.MoGE以分组专家混合架构实现确定的负载均衡..92.1.3.PanguProMoE通过贯穿训练和推理的定制,旨在充分发挥昇腾硬件的性能..1022.PangrUJlna ModE:以系统级寻优策略探索软硬协同路径.2.1.P±anguUItaMoE采用仿真先行的设计方法进行架构寻优…12.2.2.PanguUltraMoE采用定制训练策略以提升模型性能.132.2.3.PanguUltraMoE通过并行、通信与内存的深度协同实现系统级训练优化.....142.2.4.PanguUltraMoE多方面的协同优化提升训练效率与模型性能…..3. CloudMatrix通过全栈协同优化AI推理基础设施.16163.1.大语言模型对AI基础设施提出四大全新挑战3.2.CloudMatrix-Infer通过软硬件协同设计为承载SOTA级模型而生.13.2.1. CloudMatrix-Infer采用PDC解耦的Peer-to-Peer对等服务架构...13.2.2.大规模专家并行(LEP)将通信成本转化为性能收益.18323AV-Direst通信机制的应用实现算子级深度融合.3.2.4.CloudMatrix-Infer针对DeepSeck-RI架构特性做出多方面优化....93.2.5.CloudMatrix-infer交出高吞吐量和高效率的推理表现.203.3.CloudMatrix硬件设计为上层创新提供物理基础20231)统一总线(UB)网络实现节点间通信的高性能21请务必阅读正文之后的免责条款部分20f27
国泰海通证券产业深度3.3.3.CloudMatrix:通过三平面网络架构,兼顾内部性能与外部兼.容….23335CANN软件栈是连接上层框架与底层硬件的关键中间层…244、全栈协同是华为AI的核,心战略路径….254.1.开源策略以模型开放构筑昇腾硬件生态建设.2542、架构、系统和算子构成全栈协同的三个方面265.风险提示.....26请务必阅读正文之后的免责条款部分30f27
国泰海通证券产业深度1.盘古大模型的演进方向从追赶并对标SOTA级模型到为异腾硬件量身定制模型华为盘古大模型的演进历程,不仅是一部大模型技术迭代史,而且是一部困绕其自研昇腾（Ascend)硬件平台,从追...
