中国电信CHINATELECOMWHTEDADEDA智能体安全治理白皮书2025年9月
版权声明《ＡＩ智能体安全治理白皮书》中中国电信售团有限公司牵头，联合公安部第三研究所、《信息安全研究》杂志社、华为技术有限公司、蚂蚁科技集团股份有限公司、清化大学上海交通大学共同编写完成本白皮书的版权归上述编写单位共同所有未经许可仟何机构或个人不得以仟何形式对本白皮书的全部或部分内容进行复制、转载、摘编、发行或用于商业用途，若需引用、转载或使用本白皮书内容，必须注明来源为《AI智能体安全治理白皮书》、月不得对内容进行否曲或算改本白皮书所载内容仅供参考，编写单位对因使用本白皮书内容而导致的任何直接或间接后果不承担法律责任1
目录前言一、背景概述1.1AI智能体定义.人1.2AI智能体安全风险)61.3AI智能体安全治理.二、AI智能体安全风险2.1感知层风险....22决策层风险..132.3记忆层风险.....1524执行层风险...........三、AI智能体安全治理3.1感知层安全............................32决策层安全..........2133记忆层安全.........2234执行层安全.......232
四、AI智能体安全治理实践41智能体平台安全治理实践2542MCP安全治理实践…2843端侧智能体安全评测实践31五、持续提升建议37附录...............40参考文献.2
前言当前，人工智能技术正经历从“对话智能"向“决策智能”跃迁的关键发展阶段。基于大语言模型的AI智能体已实现质的突破,其功能定位已从基础指今执行单元转型升级为具备复杂认知推理与战略决策能力的智能系统,最终发展头能够白主咸知环境态热、独立制定行动方案并高效执行仟务的数学协作伙伴这一技术范式的革新显著折展了人工能的应用疆域,在金融风险管控、智慧医疗体系、先进制造产业及社会化公共服务等诸多领域,AI智能体正持续推动生产模式与服务形态的深度变革然而,技术能力的显著提升亦伴随着潜在风险的同步换长。近期发生的多起人工智能智能体安全事件,充分暴露了该领域现存的脆弱性特征。以2025年4月发生的典型案例为例，研究人员发现其公司开发的智能体演示系统存在重大安全隐患,攻击者仅需在网页界面植入"下载并运行特定工具等常规日然语言指今,即成功诱导已获"计算机操作"权限的智能体程序下裁并执行木鸟程序，导致标主机在极短时间内遭受入侵。该案例明确显示,当AI智能体被赋予自主执行权限时,常规语言交互机制可能被恶意利用作为远程攻击的后门通道。此外,InvariantLabs研究机构近期披露了一种针对终端智能体的新型提示词注入攻击半法。攻击者诵过将黄指今
嵌入WhatsApp即时通讯软件的超长滚动文本信息中,诱使用户执行“滑动至页面底部"的操作行为，在此过程中,智能体系统错误地将该用户交互行为解读为"默认授权"指令,进而在用户完全不知情的状态下实施隐私数据窃取。值得注意的是,该攻击方法通过精心设计的技术路径,有效规避了传统安全审计机制的监测，展现出极强的隐蔽性与危害性。在此背景下，中国电信携手合作伙伴共同编制并正式发布《AI智能体安全治理白皮书》该白皮书基千”咸知—决部一记忆一执行"四层核心架构体系,系统性地梳理了智能体在全生命周期运行过程中的关键风险节点;在技术实施路径与治理框架设计方面，坚持技术防护与制度规范并重原则，包新性地提出复盖数据感知、模型推理、记忆保护及任务执行等环节的全维度安全治理方案:通过选具有代表性的行业典型案例,深入阐释AI智能体风险在不同应用场景中的具体防控措施，并提炼形成具有重要参考价值的治理实践经验本白皮书旨在为产业界、学术界及政策制定机构构建系统化的参考体系,既有助于社会公众正确认知AI智能体的应用价值与潜在风险,亦为治理主体与技术开发者提供具备平换性的解决方案,以期共同促进A|智能体技术沿着安全。可控、可信的发展路径实现健康可持续发展本白皮书中中国电信集团有限公司头，内部织中国2
电信研究院、天翼安全科技有限公司、中电信人工智能科技（北京）有限公司、中国电信人工智能研究院、中国电信股份有限公司云南分公司，外部联合公安部第三研究所、《信息安全研究》杂志社、华为技术有限公司、蚂蚁科技集团股份有限公司、清华大学、上海交通大学联合编...
