O阿里云ApacheRocketMQxAlAlAgent的事件驱动架构实践邹星宇阿里云智能云原生解决方案架构师
G-阿里云01传统消息队列在AI场景中的局限性02 Lite-Topic:面向AI领域的新范式Contents目录03优先级Topic:面向A场景的分级消费策略04面向AI场景的应用案例
G-阿里云1、传统消息队列在AI场景中的局限性
（-阿里云AI业务场景的新特性更长的响应时间更复杂的交互和传统互联网应用毫砂级的延时比，AlAI应用的的多轮对话待续时间长,历史可应用的响应时常基本是分钟级以上达数十轮。AI应用一次业务的运行时间不可预测性上下文的传输可能达到几十甚至上百M。史高，上下文管理难度更高。多Agent之间的协同更加复杂。更昂贵的计算资源更精细化的事件驱动AI推理衣赖昂贵的GPU资源，瞬时高·因为计算能力有限，异步事件驱动需要并发流量可能冲击推理服务稳定性,导更精准的消费速度控制。致算力资源浪费分级的事件驱动策略，确保高优先级任任务失败重试的成本更高。务优先获得宝贵的计算资源。
G-阿里云AI时代RocketMQ新特性轻量化通信模型智能化资源调度大上下文管理轻量级的资源管理，低定速消费以连续的消息保开销的资源创建支持海优先级消费存上下文量会话场景优先级修改支持超大消息体更细粒度的的订阅管理确保在高并发和多租顺序、互斥消费适用于长时会话、AI工户环境下高效利用资保证上下文的完作流和Agent-to-源整Agent交互等场景
G-阿里云2、Lite-Topic:面向AI领域的新范式
G-阿里云轻量化通信模型:百万级队列支持:RocketMQ支持在单个集群中高效管理百万级Lite-Topic,能够为海量并发会话或任务提供独立Topic,并且保障性能无损。轻量化资源管理:RocketMQ队列的创建和销毁极其轻量和自动化,系统可按需自动创建与回收Lite-Topic (如客户端连接断开或TTL到期时】避免咨源泄漏和手动干预，着降低使用复杂度和成本。大消息体传输:RocketMQ可处理数十MB甚至更大的消息体,充分满足AIGC场景中常见的庞大数据负载的传输需求,如大量上下文的Prompt、高清图像或长篇文档等。,顺序消息保障:通过顺序消费,确保推理结果流式输出到客户端的顺序性,保障会话体验连贯流畅。
G-阿里云QueueGroup-1轻量级Topic:QueueGroup-2，基千百万队列的方案,本质上是一个个queueQueueGroup-3QueueGroup-4每一个broker上,在分配和发送时像顺序Topic的发送一样要做queue的hashQueue的消息是某个broker专属的,一个轻量级topic的发送在只会到一台broker.而不是轮询发送
G-阿里云轻量级订阅增量:sub()/unsubl)消费组group的概念被弱化BrokerRegistryTable订阅关系粒度更细,以clientID维度维护symc al when notfygroup, topic, version,[ite lopica]新增互斥(Exclusive)消费模式c2group, topic, version,[lte topicsl)没有订阅关系不一致导致的各种消费问题notify syncC3By>>version定期checkTTL到期后自动删除订阅关系定期rogistorPraxyBroker
G-阿里云消费分发策略:客户端发起读请求不再指定topic,而是broker根据clientID识别订阅关系，并nddspatch返回多个topic的多条消息引入类似epoll机制的topic ready set,在DOD请求处理时直接访问就绪的topid当订阅上线、新消息发送、消息ACK后仍有消息orderlock释放时往 topic readyset进行add操作
G阿里云传统订阅模式新的模式消息客户端数量无差别随应用负载和规模而定订阅关系所有机器订阅关系一致不同机器订阅关系不同订阅Topic数量很少，几个到十几个较多，几千到1w级别Topic创建console预创建动态生成,不适合预创建Topic生命周期很长。如用于订单处理的Order消短息，只要订单系统还在，主题就还在使用主题下消息数量较少，几条到几万条消费过滤可过滤不过滤（因为粒度够细)Group用于共享消费的组织形式，因此无;或者说概念被弱化了需要订阅关系一致应用场景传统，共同完成某项任务，身份在特殊的场景下,各自接收属于无差别自己的消息
G-阿里云3、优先级Topic:面向A|场景的分级消费策略
G-阿里云大模型服务在资源调度上,普遍面临两大核心挑战负载不匹配:前端请求突发性强,而后端算力资源有限目相对稳定,直接对接易导致服务过载崩溃或算力资源浪费。无差别...
