2025-守己利他-69页

98编写组指导委员会邵晓锋闻 佳俞思瑛钱 磊胡 侠彭靖芷杨易侗马宇诗徐 甲孟令宇梁兴洲何紫荆苏向文阿里巴巴集团风险管理委员会主席阿里巴巴集团公共事务总裁阿里巴巴集团首席法务官阿里巴巴集团安全部总裁上海人工智能实验室阿里研究院 AI 治理中心专家阿里安全生态合作负责人阿里安全高级体验设计专家上海人工智能实验室安全可信 AI 中心上海人工智能实验室安全可信 AI 中心上海人工智能实验室安全可信 AI 中心上海人工智能实验室安全可信 AI 中心上海人工智能实验室安全可信 AI 中心薛 晖袁 媛王迎春阿里巴巴集团科技伦理委员会委员 & AAIG 主任阿里研究院院长上海人工智能实验室专家委员会编写单位特别鸣谢彭骏涛段然杰朱琳洁杨 锐黄昱恺李进锋张 强王 铮况育宇徐璐妮许晓东廖 伟宋月冉邵晓钰许继杰陈宇宁王筱玥田晶晶郑子熠张 荣傅宏宇李娅莉洪海文沈 晖陈岳峰胡俊英黄龙涛杜东为编写组主要成员阿里云智能集团通义安全负责人阿里研究院 AI 治理中心主任阿里巴巴达摩院法务安全负责人阿里安全御风大模型负责人阿里巴巴达摩院安全总监阿里安全 AIGC 安全算法负责人淘天集团法务部法务专家阿里安全资深算法专家淘天集团营销法务负责人关于我们关注我们• 阿里巴巴人工智能治理与可持续发展研究中心（AAIG）：AAIG 是阿里巴巴集团旗下的人工智能研发团队，致力于利用 AI 技术解决安全风险问题，并推动 AI 技术更加安全、可靠、可信赖和可用。团队成员在计算机视觉、自然语言理解、数据挖掘与网络安全等领域的国际顶级会议和期刊上发表论文 100 多篇，获得国际国内专利授权 60 余项，申请中专利 200 多项。AAIG 贯彻“科技创新是最好的网络安全”的理念，所研发的人工智能产品涵盖内容安全、业务风控、网络安全、数据安全与算法安全等多个领域，为集团在全球的千万商家和十亿消费者提供更好的安全和体验。• AI45 中心：上海人工智能实验室安全可信 AI 中心是上海人工智能实验室科研任务部门之一。团队以 "Make Safe Al”为核心技术愿景，着力夯实人工智能内生安全技术基座，推动行业从“让人工智能变得安全”到“打造安全的人工智能”的转变，支撑人工智能朝着有益、安全、公平方向健康有序发展。AAIG 公众号AAIG 官网AI45 官网1110人工智能发展和安全的总体趋势1 对人工智能发展与安全的总体判断201.1 AI 全球化发展是世界的主旋律，开源开放成 20 为中国 AI 创新的重要路径 1.2 大模型发展转向应用侧，需配套模型、数据、 21网络等全方位的安全能力1.3 安全需要多方合作，共绘 AI 安全与性能平衡 21发展的美好愿景2对人工智能安全的基本态度242.1 守己 242.2 利他 252.3 合作 26目录引言CHAPTERCHAPTER01022 建立满足应用需求的安全能力体系682.1 从“模型竞赛”走向“系统生态构建” 682.2 建立安全可信的云上大模型服务 702.3 应对 Agent 爆发带来的安全挑战 73CHAPTER1建立技术先进、能力完备的模型安30全体系1.1 AI 范式在推理深度、模态广度上快速更迭， 31安全技术要跟上智能技术的发展 1.2 围绕“守己”理念，阿里巴巴建设了评测牵 41引、内外兼备、能力全面、技术领先的 AI 安全 体系03守己：坚持长期主义保障模型及应用安全。公共云提供了AI应用安全的可靠保障方案13121构建开源开放生态，加速技术的普惠80和发展1.1 开源开放生态的利他属性 801.2 基于开源生态的 AI 应用服务 851.3 负责任的开源生态风险治理 882 大模型是世界知识的产物，也是服务97世界的工具2.1 大模型是全球造、全球用的全球化工具，全 97球化是模型发展本能的诉求 2.2 大模型对不同文化的适配 102利他：用开源建生态、用开放促普惠，负责任地评估应对AI发展中的影响3负责任评估和应对 AI 带来的影响，105帮助扩大 AI 正向价值3.1 AI 对经济社会的影响 1053.2 AI 对商业的影响 1073.3 坚持长期价值建设，引导 AI 技术应用向上 110 向善 CHAPTER04AI治理前沿探索1以技术创新驱动安全与性能协同提升1322以治理创新推动多方能力共建1343“AI 安全全球公共产品”全球倡...