G阿里云AI应用开发新范式计缘阿里云智能云原生应用平台
一阿里示01AI应用架构新范式
AIAgent架构和发展趋势AlibabaCloudAIAgent架构AIAgent趋势PromptTemplateUniversalAgentsMulti-AgentsInstructionsPlanningPlatform-LevelssaunyasnPrompt/ReasoningAgentLLMsAgentsResponseSiloed,ActionsSingle-PurposeStore/RetrieveAgentsSmarter modelsusing more toolsto accomplish higher value tasksToolsMemoryLevel Of Intelligence
AI应用架构G-AlibabaCloud多种部署方式的LLM流程式开源LLMs(PAI)LLMsAPI(百陈）开源LLMs(FCGPU)LLM服务管理公坊<>函数B各类触发器函数口门函数C云原生AP网关A网关）CoudFow流程编排务统一管理、限亮、联网按＃＃＃＃＃＃＃＃节点A节点B节点C微服务从Nacoa发现现存业务AActions/Tool管理Mobile APP现存业务BMSENacos(南北向流量网关）节点A节点B节点C现存业务CAOYSAEWebAPP服务ACK部着DifyAPVBRR多语言服务编码式(现存业务EDevice百数B函数C三方服务函数汁算S>>a/LangChain/.各类三方APISpringAlAlib.OSS
MCP是什公AlibabaCloud模型上下文协议(ModelContext Protocol）是一个开源协议,由Anthropic ( Caude开发公司）开发,旨在让大型语言模型(LM)能够以标准化的方式连接到外部数据源和工具。它就像AU应用的通用接口，帮助开发者构建更灵活、更具上下文感知能力的AU应用,而无需为每个AS模型和外部系统组合进行定制集成。MCP被设计为一个通用接口，类似于USB-C端口，允许LM应用以一致的方式连接到各种数据原和工具，如文件、数据库、AP等,MCPClaudearchitectureMQPServerALocalMCP clients5DataSourceAMCPProtoaolcllent.pyMCPhostsMCPHostwithMCPClientMCPServerBLocalMCP(Caude,Cline,IDEs)DataSoureserverMCPMCPProtacsserverMCPServerCInternetRemoteMCPmoteServicserver标准化模块化可扩展性安全性MCP标准化了LM访问外部数据的方MCP促进了横块化设计,允许独立开MCP使得添加新数据源或工具变得简MCP提供结构化的访问模式,内置验式,简化了不同数据酒和工具的集成。发和维护不同组件。单,无需大幅修改现有系统。证,确保数据交互安全且受控。
MCP协议的运作机制G-AlibabaCloudLUMs用户输入:"现在几点?"Cien/Agont输入:MCP定义及使用方法MCP Client/Agent96个MCR6neZone':"Asia/Shanghai':用户的输入民市员合适MCPClient/AgentLUMsTimeMCPServer将用户的提可和MCPSerwer区回的结果一起输入给LMSOtherMCPServerMCPClient/Agent网结合MCPServe的返MCPClient/Agent
MCP协议的核心[AlibabaCloudMCP不像传统的协议定义，它没有一个确定的数据结构。它的核心是通过自然语言描述清楚有哪些MCPServer,承担什么作用,有哪些MCPTool,承担什么作用,然后让大语言模型通过推理去选择最合适的MCPServer以及MCPTool,所以它的核心本质上还是提示词工程,Cline给LLM的系统提示词，以及DeepSeek的响应告诉LLM你有一堆工将用户的问题和系统词一起输入的次你只能LLM.回什么样的格式。向LLM解释了什么是LLM得到用户的问题MCP和MCP的一大堆信息了可以解决述，包括传参格式。频最合适的server和MCPool,并以XML格式返回给Client/Agent
MCP和Function Calling之间的区别[AlibabaCloud》MCP是通用协议层的标准,类似于“A领域的USB-C接口”，定义了ＬLM与外部工具/数据源的通信格式,但不绑定任何特定模型或厂商,将复杂的函数调用抽象为客户端-服务器架构。> Function Galling是大模型厂商提供的专有能力,由大模型厂商定义,不同大模型厂商之间在接口定义和开发文档上存在差异;允许模型直接生成调用函数,触发外部APL,依赖模型自身的上下文理解和结构化输出能力。FunctionCallingMCPOpenA遵文千肉智谐AIOpenA通义千间智谱AIMCPgitGi服务数据服务SaaS服务业务服务gitGit服务数据服务SaaS服务业务服务需要为每个外部函批编写一个,ISONSchema格式的功能说明,精心设计一个提示词横版,才能是统一MCＰ客户端和服务器的运行规范，并且要求MCP客户端和服务器之间，也统一按照某个概c tion Calling响应的准确率,如果一个需求涉及到几十个外部系统,那设计成本是巨大，产定...
