热门文档
- 2025-04-21 11:02:12 2025年中国宠物行业白皮书
- 2024-11-17 13:23:03 Mckinsey:2024中国消费趋势调研
- 2025-03-07 11:57:25 【剧星传媒】《哪吒2》资源推荐0205
- 2024-07-31 22:30:59 城市飞行营地总体规划及主题体验区概念设计规划案
- 2024-05-19 21:59:54 2024小红书餐饮行业方法论
- 2024-03-22 23:03:56 红爵啤酒品鉴会“红爵之夜 嗨啤TIME ”主题活动策划方案
- 2024-07-21 20:53:59 2024全球E-Bike市场洞察报告(电动自行车)
- 2024-07-09 21:55:15 如何运营你的小红书?
- 2024-08-18 12:25:23 2024年科大讯飞1024招商方案
- 2024-11-04 20:41:56 淘天集团:2024年家装家居行业营销解决方案
- 2024-08-25 22:28:04 喜马拉雅:喜马拉雅2024营销白皮书
- 2024-09-08 21:00:26 【Short TV】ShortTV出海短剧内容生态

1、本文档共计 0 页,下载后文档不带水印,支持完整阅读内容或进行编辑。
2、当您付费下载文档后,您只拥有了使用权限,并不意味着购买了版权,文档只能用于自身使用,不得用于其他商业用途(如 [转卖]进行直接盈利或[编辑后售卖]进行间接盈利)。
3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。
4、如文档内容存在违规,或者侵犯商业秘密、侵犯著作权等,请点击“违规举报”。
2、当您付费下载文档后,您只拥有了使用权限,并不意味着购买了版权,文档只能用于自身使用,不得用于其他商业用途(如 [转卖]进行直接盈利或[编辑后售卖]进行间接盈利)。
3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。
4、如文档内容存在违规,或者侵犯商业秘密、侵犯著作权等,请点击“违规举报”。
Research艾瑞咨询中国工业大模型行业发展研究报告靡不有初,鲜克有终©2024 iResearch Inc.Research艾瑞咨工业大模型伴随着大模型技术的发展,逐渐港透至工业,处于萌芽阶段。就大模型的本ABSTRACT质而言,是由一系列参数化的数学函数组成的计算系统,且是一个概率模型,其工作机制是基于概率和统计推动进行的,而非真正的理解和逻辑推理,因此,当前大模型具有不可解释性和幻觉不可消除等主要特征。就大模型落地工业的情况而言,工业互联网、摘要等工作已经让部分工业企业遍历了数据采集-数据存储数据处理-数据分析-数据资产沉淀-数据应用的过程,部分场景已经准备好了向基础大模型投喂的“数据原料”,当经过简单数据处理、微调、适配后,可以解决部分垂直细分场景问题,具有落地可行性。就工业大模型的发展进度而言,工业大模型与工业互联网一样,都是要挖掘数据资产的价值而数据准备的阶段性工作在工业互联网时期大部分已经准备好,故我们预计工业大模型的进程在技术不受限的前提下,可能会快于工业互联网。当然,工业大模型是以大模型技术为驱动,其进程快慢很大程度受限于大模型本身能力的进化。工业大模型玩家与工业互联网平台玩家重合度高,其成长路径目前也表现出高度相似的特征,但目前市场产品、服务、落地场景都处于探索阶段,大家部在同一起跑线。就参与玩家而言,大模型技术底蕴、行业know how、运维资源等方面是各类玩家主要描定的优势,且都是基于自身优势点,围绕具体应用场景摸索大模型在工业的落地性进行市场切入的。就具体产品形态而言,整体还较为稚嫩,目前大模型的能力更多还是依附于已有产品体系,鲜少有独立的产品出现,未来随着大模型流量入口特性明朗,有望独立成产品。就应用场景而言,当前大模型的不可解释性和幻觉等特性,与工业“0容错”的特性相悖,因此当前大模型落地工业的探索更多聚焦于偏运营的、具有一定容错能力的场景(如知识问答、辅助设计/代码生成等),而生产制造等核心场景的探索需要静待模型进化以及CV大模型、多模态大模型的发展。就发展挑战而言,模型、数据、应用、商业变现是无法避开的话题,且各方相互影响,互利共赢。大模型落地工业的探索中,还处于非常早期的阶段,供需双方都在尝试,当然,也有很多问题值得探讨与思考。)大模型落地工业的境争要素:基础能力、模型能力、模型应用是主要竞争点,且在不同行业发展阶段,其相对竞争优势有所不同,具体而言:短期主要看大模型技术,长期则主要看模型应用深度。2)大小模型间的关系:大小模型间不存在替代关系,是并存且是协同融合赋能的关系。3)工业大模型服务走向平台化:大模型落地工业的服务平台化特征以开始显现,且逐步形成垂直行业大模型+智能体+小模型+机理模型为主的平台化调用方案。4)产业数据拉通助力工业大模型能力进化的同时,对大模型落地工业的广度、深度都大有裨益。2Research艾瑞咨CONTENTS目录01大模型落地工业具有可行性02市场篇玩家纷纷涌现,但产品和服务形式尚在摸索中03思考篇模型能力进化带来不确定,合作利大于弊04专家篇一线企业专家的项目实践经验分享及前瞻的思考3Research艾瑞咨询01/背景篇-基本概念厘清大模型落地工业具有可行性4当我们在说A时,在说什么?Research艾瑞咨A本质就是一系列参数化的函数所组成的计算系统,并在一定的框架环境下,进行数据计算和参数调优的过程整体来看,A通用技术框架主要分为基础层、技术层、应用层三层,不同公司,在整体框架上都保持一致,只不过针对基础层和技术层的部分内容划分,略有区别,但主旨就是为各类函数组成的计算系统提供环境、数据、算力等支撑,最终达到模型运行并输出结果的目的。具体到不同层级的主要玩家而言:1)基础层和技术层的A框架和算法架构上,其玩家比较类似,主要是国内外领先的科技巨头、云厂等参与,如谷歌、Met妇、微软、亚马逊、阿里、百度、华为等:2)应用层和技术层的工具组件、通用技术,其玩家更加百花齐放,针对行业、场景、功能等各角度发力,推动A工具和应用的落地。当前,大部分大模型玩家的侧重点更多聚焦于通用技术的提升、应用的领域的拓展。AI的通用技术框架情况C端产品及硬件类:智能汽车、机器人、X等智能硬件产品应服务软件类:ChatGPT、智能客服软件应用B/G端解决金融、工业、教育等行业解决方案算法的训练及应用等都是通过A框架进方案行,主要提供模型训和模型推理支撑通用技术通过机器学习、深度学习、NLP、计算机视觉、语音识别等算法的组合应用与优化,可以衍生算法/架构:具体的运算函数,一般由些相对通用的技术,如生成试AL、NLP大模型、CV大模型、多模态大模型等等大型公司、学术机构和研究所、开源社区或平台等提供。工具组件全流程开发工具、可视化份析工具、安全可信组件、预训练模型应用工具、塑型评估工具A框架+算法:在AI框架的基础上,不技云上任务提交工具、并行及优化组件等,目的是便睫A能力开发同特性算法的组合和变体,在某些能力机器学习,是核心,包含有监督、无监督、半监督学习等类别上相对更加强大,可称为不同的模型类别。如果参数足够多,其推理、泛化等算法/架构深度学习,包含CNN、RNN、GNN、Transformer等类别其他,如增强学习、强化学习、回归、分类等别易的深度学习架构能力更加强,则可以称为大模型。大模型厂商主要服务内溶:通用技术及相关工具组件。AI框架国外:TensorFlow(Google)、PyTorch(Meta)等国内:MindSpore(华为)、PaddlePaddle(百度)等通用数据行业数据,包含内部数据整合、外部合规数据等本质基模型的本质是由一系列袋数化的数学函础操作系统数据库云计算平台大数据平台数组成的计算系统。模型训练是不断调整参数及其权重的过硬件设施计算资源,如CPU、GPU、NPU等存储资源安全资源传感器网络资源程,部分可能需调整算法架构。2024.9 iResearch Inc.www.reseach.com.cn大模型是什么?大模型的能力如何获取?Research瑞咨大模型是从海量数据中学习并记住泛知识后,在域内数据+提示数据集的修正下,具备在某类具有相对更准确能力的计算系统,其本质是概率模型据Andrej Karpathy所言,大模型本质由巨大的参数文件+运行参数的代码文件两大核心组件构成。其中:1)参数文件是通过大量数据训练获得的,代表从数据中提取的有用信息和模式(可称为“知识”),其参数量与对知识的记忆能力,与数据量、数据按照不同说明进行躁光的次数有关。2)代码文件有点类似“大脑”,主要是指导参数文件进行推理和产出,其中,可根据域内数据、提示数据集等进行调参,不断提升模型的准确性。因此,总结来看,大模型能力获得主要有四步:1)针对大量数据进行预训练,让大模型学习并记住知识:2)明确大模型能力侧重点,即给一定高质量、针对性强的域内数据集微调,让大模型在某些能力更加突出:3)通过标注人员对大模型给出的答案进行排序,给予大模型正向反馈:4)强化学习。以上,也说明大模型的能力不是只要参数量足够大就具备涌现能力,是需要逐项优化才逐步具备某些能力的。需要注意的是,大模型本质是一个概率摸型,可从2个角度理解:1)具有不可解释性:虽然可以调参,但是并不知道这些参数在做什么,如何协同工作,表示的是什么意思;2)幻觉不可消除:模型的工作机制是基于概率和统计推断进行的,而非真正的理解和逻辑推理,且与预训练的数据量、躁光次数、微调数据量及数据的选择、奖励函数偏好等息息相关。大模型能力获取的流程概览预训练监督微调奖励函数强化学习范围比较广,以模型目的为大概TB级别,来源广,包括通用主,几百数百万,甚至上亿作数据(如书籍、论文、网页微调侧重于通过较小但高质新间等)、开放数据集等量、针对性强的数据集来进和任务的复杂度,一般百万一般数十万条任务用户指令一步优化模型,使其更好适个任务用户指令较为常见应特定应用场景操作知识压缩和知识表示-让模型目的学习并记住知识主要让模型完成什么工作?类人对齐一-目标是提升模型的准确性最终结预训练大模型有监督微调大模型模型能力提升情景学习模型应用2024.9 iResearch Inc.www.reseach.com.cn6大模型及其相关概念的关系是什么?Research艾瑞咨AI是泛技术的统称,机器学习、深度学习是各类算法,大模型、生成式AI等是对各类算法组合运用的能力的体现,而ChatGPT则是算法应用的具体产品。通常说的大模型是已经预训练完成的具有一定泛化能力的基础模型大模型相关概念梳理从基础大模型到领域/业务垂直大模型的简单路径机器学习机器深度预训练微调Chat基础大模型学习学习生成GPT+深度学习加直大模型transformer果构算力融合算法应用术统称的具体产品具体应用产品,如ChatGPT、文心一言、通义千问、Kimi、Code GeeX等算法的组合或者变体算法能)体现,经过海量数据训练后,形成的具有大量参规模的、具备一定通用、现能力的大模型大模型又可分为基础大模型凹和领域/业务垂直大模型,各类算法具有不同功能的算法,不同算法可进行自由组合,经过训练调整后,可形成识有一定侧重功能的模型模型根据参数量、泛化能力等不同,可以分为大模型、小模型,大模型模目的:在已经训练好的基础大模型的基础算法均以机器学习和深度学习相关算法为主,但大模型通常采用transformer架构,尤上,结合具体应用场景的特点对其进行调其是处理NLP任务时;而小模型没有统一的架构,主要取决于任务需求、数据量等对微整和优化,以适应特定的任务或特定领域,和高,避免过度拟合可以在较少数据上训练通常会形成领域/业务垂直大模型。模内容:一般,主要聚焦于权重更新、神经参数规模数亿到数千亿参数几干到数百万参数网络层数调整、损失函数调整等方面。几对算力需求高,需要高性能GPU/TPU和大量内存可在普通计算机上运行特点:具有训练数据需求少、参数更新有限、训练时间短等特点。点说泛化能力相对较好,但可解释性相对低相对受限,但可解释性相对高2024.9 iResearch Inc.www.reseach.com.cn大模型在工业应用是否具有可行性?Research艾瑞咨数据积累、数据资产沉淀等基础以具备,大模型落地工业领域成为可能大模型的本质是由一系列参数化的数学函数组成的计算系统,是人工智能系统对知识的一种表示和处理方式,本身就具备“数据喂养一认知构建”的"学习”能力。因此,在已经学习海量通用数据、具备一定泛化能力的基础模型的基础上,向其“喂养”特定行业场景的数据及规则,经过定制开发、调整、训练、调优等操作后,该基础模型将获得特定行业场景能力的“认知能力”,在一定程度上可称为特定行业/场景大模型。就工业领域而言,工业互联网、工业智能制造等工作,已经让部分工业领域企业遍历了数据采集数据存储-数据处理-数据分析-数据资产沉淀-数据应用的过程,部分场景已经准备好了向基础大模型投喂的“数据原料”,当经过数据处理、适配、微调,甚至是训练后,逐步演进为工业大模型,可以解决部分垂直细分场景问题,大模型落地工业成为可能。大模里落地工业领域的可行性基础大模型RAG微调预训练里面的数据通常不具备出现次数多的条件,这些数据还要(如NLP大模型、CV大模型、多模态大模型等)工业大模型以多次不同的说法进行大量曝9%49%光。通常需要模型服务提供方工业适配基于自己积累的数据训药集去做一些调优或者优化,此时,工业机理模型行业know how积累439%特定领域优化行业积累就尤为重要45%系统集成T业APP项目服务难点处理经验性能调优大概是多少?…工业大模型■正在积极应用进行应用时,参数量要求通常行业自动化、与应用场曼、企业规模等有关数字化、智能化数据采集数据处理通常810亿左右是平衡点,企业基本上可以用了.数据分析工业物联网平台研发设计工业大模型落地应用工业互联网平台设备研发设计工业对据智能平台排产工业A平台质检经营管理大模型,脱离场/问题的大工业视觉平台供应链及仓储物流安全服务硬件模型暂时不成立但市场各供给方在追求通过Agent的组合方案去适应不同的场景需求。2024.9 iResearch Inc.www.reseach.com.cn8Research艾瑞咨询02/市场篇-初期的产品和服务玩家涌现,但产品和服务形式尚在摸索中9企业产品场景挑战工业大模型主要玩家有谁?如何切入市场esearch瑞厂商类型多样,覆盖软硬件厂商,基因不同所形成的优势各有侧重,但切入市场的角度类似,在市场竞争打法、客户选择、市场策略等方面趋同根据基因不同可将工业大模型商分为8类:1)互联网大厂、ICT企业、A1厂商,强调A1原生能力和基础大模型能力;2)传统软件厂商凸显客户服务经验、运营资源优势:3)制造大厂、机器人厂商彰显行业know how、行业数据、设备应用等优势;4)安全厂商侧重在企业全局运维中的安全保障。综合来看,虽然各家优势有异,但切入市场的策略相似,即:锚定自身优势点,围绕具体应用场景摸索大模型在工业的落地性,且目标都是有钱、技术底蕴、有意愿的头部客户。当前,对比国内外企业的市场切入思路,主要差异有二:1)在合作方上,国外企业具有资源顶端优势,强调从算力底层出发,构建算力推理的能力地图,而国内企业则强调底层大模型的能力与丰富性;2)在服务思路上,国外企业相对更强调将数据链路服务体系做深,而国内企业更强调各功能模块间的组合。工亚大模型生要玩家类型及市场切入点基因代表企业优势主要切入点国内外企业入点对比P大模型技术积累深、资金雄厚、人才充1-具有通用基础模型的厂商:非常重视人机交互方式、大厂阿里云、百度云等足,品牌影响力强大以技术为切入,强调自身大模知识问答等基础能力型的能力,如微调能力、性关注辅助代码的能力ICT企业华为、浪潮、移动等算力、网络能力、联网能力、整合集成prom pt.工程能力等.能力强大2-不具有通用基础模型的厂商:多会引入多种通用基础大模型1-合作方:多与微软A厂商有一定行业know how积淀,并积累部他们主要强调自己工业领域的/OpenAl、.英伟达合作,重视思谋科技、梅卡曼德等分数据,对大模型的能力理解相对深亥客户服务经验,主要分为2类:算力能力+推理能力构建,如其一,以RAG服务为切入;其西门子、倍福、施耐德等传统软件中工互联、朗坤苏畅,多样化的客户资源和服务经验,交付灵自身产品+大模型,为自异2-服务思路:更多从数据采集厂商达观数据、中控技术等活,运维资源强大身产品的性格、功能、效率等性服务,但是重视的是数据完整数据及物研华科技、寄云科技数据连接、管理、分析能力强大,对特性的服务,即从数据收集分客户选择:数字化程度高的、外析-应用的完美闭环,且视雪浪云、蘑菇物联等种引入新技术意强的、有资金T和OT的结合,希望能将数预算的大客户是供给方的共同据链路服务做深,如Sight制造业卡奥斯、格创东智等行业know how、工业机理积淀深厚,选择,也是争相合作的对象,Machine、SymphonyA大厂工业领域相关数据丰富,品牌影响力大打造标杆例是首选。1合作方:多与国内多家基础机器人对具体场景对设备的需求了解深,与大市场策略:从具体应用场景出大模型厂商合作,如百度、智厂商模型能力结合时相对便了解其应用范畴发,探索大模型+具体应用场谱AI等景的落地是共性,市场整体更2-服务思路:更多的是各能力天酷信、启明星辰等安全服务经验丰富,能更好的从安全运多聚焦于某个点的解决方案,维的角度思考系统安全问题尚未出现同一套解决方案覆盖物联网平台、据平台、A平不同场量、不同行业的现象。台、大模型厂商等多方www.reseach.com.cn10企业产品场景挑战工业大模型的产业价值流转情况如何?Research艾瑞咨上游服务方整体集中,且头部效应明显:中游市场参与玩家众,虽服务能力各有侧重,但结合行业know how/行业数据积累进行基础大模型微调、RAG是主要服务思路;下游市场需求广阔,但尚处于探索阶段2024年大模型落地工业领域的产业链及图谱大模型落地工业领域的应用层研发场景生产制造销售管理供应链场景安全场景辅助设计/验证工艺流程优化设备管理机器人管理订单管理知识问落采购管理库存管理信息安全游工业模拟/验证排产管理/优化质量检测客户服务合同合规物料管理布局优化设备安全大模型落地工业领域的服务层传统软件商数据及物联商机器人商大型工具服务BONC游NSFOCUSZTE中兴LUSTER云光SIEMENS模型服务其他米zilliz⑧Pinecone传感器量片架据xnet智能云服务◆appen游物盘古FIXIE工业安全DUST2024.9 iResearch Inc.www.reseach.com.cn11企业产品场景挑战工业大模型玩家将如何挣钱?Research艾瑞咨定制化的综合解决方案是当前核心收费模式,更多收费模式可能需探索大模型落地于工业领域尚处于萌芽期,其产品形态、服务内容都还在逐步摸索中,其变现方式虽有一些相近服务或行业可以参考,整体不确定性非常高,但一切尝试也都有意义。工业大模型供给方常规的做法是:与基础大模型厂商合作-测试大模型特点、性能结合自身产品/能力进行微调-根据客户需求进行客制化服务。因此,目前相对比较确定的变现方式是类似于“保姆式”的针对煤个场景/具体功能的综合解决方案服务收费。除了定制化的解决方案收费外,部门供给方也开始尝试通过软硬件一体产品进行补充收费。虽然一些基础大模型的厂商API调用是目前较为普遍的变现方式,但深入到工业大模型服务领域,API调用、智能体调用及分发抽佣等方式的变现还处于积累阶段,目前市场还需要验证。值得注意的是,大模型的能力具有很强的进化性,2024年9月OpenAl推出的最新的o1版本,表现出比较强的复杂推理能力,这又是扔工智能新水平的一个重要进展。因此大模型未来的能力极限在哪里,我们尚未可知,大模型能为工业领域带来那些类型的赋能和服务,同样也未知。正是这份未知,未来工业大模型的变现将存在诸多可能。工业大模型企业盈利变现可能030405综合解决方案软硬件一体产功能订阅服务平台其他服务尚未可知的收服务收费品收费收费收费费方式根据需求提供整体解决软硬件一体功能产大模型能力调用收费,应用商店分发抽佣方案(如工艺优化、工品的销售费用,目如AP叫调用等,可按调用测试/认证/培训当前表现出来的能力还是业质检、智能集控前多集中在视觉监次数、调用量收费,也只是冰山一角,其未来能等),统一进行报价测设备、边缘盒子可按年/月订阅套餐收费模型训练收费,如针对某些特力有非常强的想象力,对一般还会包含咨询用等方面部分智能体调用吸订阅定领域进行针对性模型训练应的服务和潜在的收费模云资源订阅式池有非常强的不确定性目前主要收费方式补充收费方式积累探索期,尚待金证的变现方式新功能新场景开发可能带来新的变现可能来源:《2023年中国工业互联网平台行业研究报告》,艾瑞咨询研究完自主研究及绘制www.reseach.com.cn12企业产品场景挑战工业大模型玩家的成长路径为何?Research艾瑞咨目前尚处于产品雏形期,探讨成长路径为时过早,但很大可能会借鉴工业互联网平台产品-项目-平台的成长路径工业大模型市场还处于非常初期的阶段,大模型能力更新迭代快,还有非常多尚未可知的潜力,故工业+大模型的应用可能他有无限想象空间。工业大模型的成长路径可借鉴与参考工业互联网平台的,主要原因有2,点:1)二者在客户定位、服务内容、服务目标等各方面的重合度比较高;2)当前阶段,工业大模型表现出来的能力,更像是在工业互联网平台的基础上,对数据信息价值的挖掘进一步深入和易用化,服务思路是一致的。但大模型的成长路径也具有极强的不确定性,因为:1)大模型能力具有进化性;2)工业大模型市场仍处于产品雏形期,很多能力仍然停留在产品设想与理论实验阶段,尚未进入真正的工业实践。因此目前急需解决的是产品-项目的积累与闭环链路构建,打牢基础后,项目平台及生态才有机会逐步验证工业大模型企业可能的成长路径情况产品项目平台及生态工业具备核心平台能力具有成熟解决方案框架基本覆盖了政府/国企项目,积极探素生态建设,逐步形成在某些软件、硬件产品能力非常突出高校、园区等各个领减的客户销售平台、最合平台,并为同行业生态和产业链生态积极赋在某些应用场景的落地能力非常突出部分企业在某些行业和场景进商软硬一体产品行深耕能,如金融贷款服务等产品项目平台及生态产品形态、应用场景仍在探索RAG技术应用较多有钱、有意识、有信息化基础模型微调下,针对某个具体场景,通的头部客户还在影和渗透中只有非常少的企业有智能体应商过自研、合作等方式,在逐步摸素并积累项目服务经验,寻找落地用商店,且品类较少可能性是当前重点,也是末来生态理念尚末明确确定解决方案软硬一体产品的长期重点工业大模型的平台化将是什么样的?一除了供大模型运转的基础底座能力外,可能出现自主研发+第三方上传的不同功能模块方两案,通过模块方案组合+一定调整,可至少解决同类型企业、通过类型场景60%-70%左右的需求。讨论工业大模型的进程会更快吗?·工业大模型本质还是里绕数据阶值挖起的工作,在易用性自动化属性等方面更有优势。而工业互联网平台在很大程度上已经完成了大部分的数据准备工作,故工业大模型的发展进度有可能更快。来源:《2023年中国工业互联网平台行业研究报告》,艾瑞咨向研究完自主研究及绘制2024.9 iResearch Inc.www.reseach.com.cn13企业产品场景挑战大模型落地工业的产品服务架构是怎样的esearch瑞的模型及服务是大模型落地工业的核心,也是大部分工业大模型厂商对外赋能的基础大模型落地工业领域的服务框架依然分为基础底座-模型及服务-模型应用三层。其中,模型及服务是核心,主要提供两大类型的服务:1)提供预训练模型,可供其他企业通过调用/部署,提供基础的大模型能力;2)提供预训练模型后服务,如辅助微调、提示工程、训练、压缩、优化等,可供模型能力进一步适配与适用。当前,工业大模型市场的模型应用都是在大模型的基础能力+模型的适配与适用的基础上进行定制衍生的。2024年大模型落地工业领域的服务体系架构图具体应用场模型研发设计生成制造经营管理景,如产品赋应用产品工艺、产线等设计、生产排产、质检、设备、机销售及售后、知识问落、智能、交互体验验证优化器人,自动化等管理优化信息安全、生产安全等提升通用基础大模型NLP大模型CV大模型多模态大模型提供训练好的模型,也可根基础的垂直任务大模型科学计算生物计算代码生成据需求重新定通用大制,是重资产模型厂行业垂直大模型石化汽浒钢铁服务商提供模型数据相关主要提供工业数据清洗/转换、分析、扩充、标注服务在预训练模型及服的基础上:型应用务模型相关主要提供模型训练推理、评估、调优、部摆、压缩、调用等服务1-进行微服务的模型服务工具相关主要提供开发套件(如语义理解、图像分割等、工具组件(如预训练模型调、训练、压企业或应用工具、联邦学习)等服务缩等处理,形成垂直应用:会提供智能体相联主要提供智能体开发、智能体应用集成、分发等服务2-处理并优部分模化模型输出的型服务主要提供大模型相关的学习交流与实训社区、模型安全等服务内容:的内容A相关服务A框架A开发平台提供模型能力基础公共开源的基础,吃技底座数据基础数据集企业私有高校数政府数向量数数据集据库据服务术资源积累与头部集中效应算力基础AI芯片智能服务器智算中心智能云服务红利来源:艾瑞咨研究院自主究及绘制82024.9 iResearch Inc.www.reseach.com.cn14企业产品场景挑战大模型落地工业的应用思路有哪些?Research艾瑞4种应用形式各有干秋,其中RAG、微调是目前较为普遍的用法目前大模型落地工业主要有4种应用思路,分别是直接使用、RAG、结合函数调用、微调。其中,RAG结合向量数据库进行检索、微调是目前落地性相对最常见的思路。RAG的语料库都是比较贴近实际的工业生产运营的know how、流程、制度等信息,能为生成结果做验证,在一定程度上有利于纠正“幻觉”。目前安全、问答系统等场景用的比较多。微调侧是会结合一些域内数据或者具有行业know how的提示数据集对模型进行额外训练,使模型能深入学习特定领域的知识,提升专业性和准确性。大模型落地工业应用的几种思路大模型应用的技术路线简图应用思路1:纯粹prompt提示词法应用思路2:RAG(检索增强)应用程序应用程序常见的应用思路数据测试准备PromptPrompt内部/外部API特点:结合向量数用对话应用验证可行性特点:与大模ResponseResponseRAG是否要补向量化RAGAgent基础大模型础大模型要对接其函数调用应用思路3:主动提问与通数调用应用思路4:微调应用程序应用程序常见的应用思路值得尝试用历史数微调即Prompt内部/外部Prompt内部/外部APIAPI函数调用函数调用Response特点:多轮对RAG话可理解用户Response需求还可通型进行额外训练。微调向量化量Agent使其能深入学习特Agent库基础大模型基础大模型升专业性和准确性2024.9 iResearch Inc.www.reseach.com.cn15
请如实的对该文档进行评分-
-
-
-
-
0 分