G阿里云AI应用开发新范式计缘阿里云智能云原生应用平台
009阿里云01AI应用架构新范式
AIAgent架构和发展趋势AlibabaCloudAIAgent架构AIAgent趋势PromptTemplateUniversalAgentsMulti-AgentsInstructionsPlanningPlatform-LevelssauinyasnPrompt/ReasoningAgentLLMsAgentsResponseSiloed,ActionsStore/RetrieveSingle-PurposeAgentsSmartermodels using more toolsToolsMemoryto accomplish higher value tasksLevelOfIntelligence
AI应用架构AlibabaCloud编排AIAgent的两类方式多种部署方式的LLM流程式开源LLMs(PAI)LLMsAPI(百炼)开源LLMs(FCGPU)函数ALLM服务管理公<函数B各类触发器湘种面门(函数口函数云原生API网关独发器(Al网关)+CloudHow流程编排LLM服务统一管理节点A节点C节点B微服务Actions/Tool管理从Naos发现现存业务AServerless应用引擎部署DifyMobileAPP现存业务RMSE Nacos云原生AP|网关节点A节点B节点C现存业务C(南北向流量网关)WebAPP容器服务ACK部署DifyAPI/路由统一管理多语言服务负载)编码式现存业务EStore/RetrieveDevice通过P,城名代理函数A函数B函数C三方服务函数计算白SpringAlAliabayLangChainy,RDSOSSDashVector各类三方API
MCP是什么G-AlibabaCloud模型上下文协议(Model Context Protocol)是一个开源协议,由Anthropic (Claude开发公司)开发,旨在让大型语言模型(LLM)能够以标准化的方式连接到外部数据源和工具。它就像AU应用的通用接口,帮助开发者构建更灵活、更具上下文感知能力的A1应用,而无需为每个A模型和外部系统组合进行定制集成。MCP被设计为一个通用接口,类似于USB-C端口,允许LLM应用以一致的方式连接到各种数据源和工具,如文件、数据库、AP等,MCP¥ClaudearchitectureMCPclientsSMCPServerALocalDataSourceAMCPProtocalMCPhostsMCPHostwithMCPClientMCPProtocoMCPServerBLocalMCPClaude,Qline,IDEs)DataSourceBserverMCPserverMCPProtocolWebAPIsMCPServerCRemoteMCPserver标准化模块化可扩展性安全性MCP标准化了LLM访问外部数据的方MCP促进了模块化设计,允许独立开MCP使得添加新数据源或工具变得简MCP提供结构化的访问模式,内置验式,简化了不同教据源和丁具的集成。发和维护不同组件。单,无需大幅修改现有系统。证,确保数据交互安全且受控。
MCP协议的运作机制AlibabaCloudLLMs)用户输入:"现在几点?"Cient/Agent输入:MCP定义及使用方法tools/call",MCPClient/AgentGemini'timeZone':"Asia/Shanghai"的get_current time这个MCPToollTimeMCPServerMCPClient/AgentLLMs9:2772023:32+08.00’3将用户的提问和MCPServer返回的结果一起输入给LLMSGenin:OtherMCPServerMCPCient/Agent的提问结合MCPServer的返MCPClient/Agent
MCP协议的核心AlibabaCloudMCP不像传统的协议定义,它没有一个确定的数据结构。它的核心是通过自然语言描述清楚有哪些MCP Server,承担什么作用,有哪些MCP Tool,承担什么作用,然后让大语言模型通过推理去选择最合适的MCPServer以及MCPTool,所以它的核心本质上还是提示词工程Cline给LLM的系统提示词,以及DeepSeek的响应告诉LLM你有一堆工>将用户的问题和系统示词一起输入给每次你只能TM.向LLM解释了什么是MCP大堆信息可以解决述。包括传参格式。以XML格式返回给Client/Agent。
MCP和Function Calling之间的区别AlibabaCloud》MCP是通用协议层的标准,类似于“"AI领域的USB-C接口",定义了[LM与外部工具/数据源的通信格式,但不绑定任何特定模型或厂商,将复杂的函数调用抽象为客户端-服务器架构。APL,依赖模型自身的上下文理解和结构化输出能力。EunctionCallingMCP8SOpenAl通义干问智诺AOpenAl智谱AI通义干问MCPgitGit服务数据服务SaaS服务业务服务gitGit服务数据服务taSaaS服务业务服务需要为每个外部函数编写一个JSON Schema格式的功能说明,精心设计一个提示词模版,才能提统一MCP客户端和服务器的运行规范,并且要求MCP客户出和服务阳少间高Funcion Calling 响应的准确率,如果一个需求涉及到几十个外部系统,那设计成本是巨大,产定的提示词模板进行通信,这样就能通过MCPServer加强全球...