2026智能体安全研究报告：从大模型安全到可控行动系统-清新研究团队.pdf会员免费优质

智能体安全研究报告从大模型安全到可控行动系统工具权限沙箱审计威胁模型·控制平面·落地路线清新研究团队「2026年6月

三个核心判断开场与核心判断行动系统工程控制组织治理X权限运行时系统Agent 的安全边界比聊天机只靠提示词无法保证工具企业壁垒在于安全控制平面器人大得多调用和外部动作安全。，而不是单个模型。Agent 不是一个按钮，而是一个有权限的运行时系统。清新研究团队12026年6月

开场与核心判断一句话定义一智能体安全=让会行动的AI可授权、可约束、可追责一智能体能规划、调用工具、保持状态圆并影响外部系统一安全目标不是让模型永远不犯错，而是让错误不会无约束扩散000一核心抓手是身份、权限、工具、上下文、沙箱、审批一和审计Agent Safety = Identity + Policy + Tools + Logs3@清新研究团队12026年6月

4为什么现在讨论Agent→冒ChatbotCopilot开场与核心判断塑个·一Agent从实验工具进入企业生产环境）一开发框架和API让工具调用、文件操作、沙箱执行更容易一企业开始把Agent用于客服、研发、安全运营、财务和内部流程一能力越接近真实操作，安全治理越必须前置Footer source: https://developers.openai.com/api/docs/guides/agents

风险的本质变化开场与核心判断回答（执行）一从“内容风险”升级到“行动风险一同一个错误，在Agent中可能变成邮件外发、数据改写或生产一普通大模型的主要问题是输出质变更。量和内容边界。一智能体的主要问题是能否代表用户或系统采取行动。5@清新研究团队2026年6月

本报告的研究边界开场与核心判断Agent运行时泛化主题研究对象 =(排除)X 工具调用多步骤规划+MCP (ModelX---中模型软件所有AI伦理沙箱记忆聚焦能影响外部状内容审核态的智能体系统数据人多Agent协作模型评估研究对象是“模型+软件+权限+数据+人”的组合系统9@清新研究团队12026年6月

对企业的战略含义治理难得安全部署能力高难度挑战自动商品化不会商品化趋势基础门槛Agent能力能力易得开场与核心判断一Agent能力会商品化，安全部署能力不会自动商品化。一模型和框架会越来越易得。一可规模化的权限、审计、评测和事故响应是组织能力。一越早建立控制平面，越能更快释放Agent价值。@清新研究团队|2026年6月

8报告结构开场与核心判断从定义、风险到控制、评测和路线图O控制平面第三部分：控制架构、评测运营、治理路线。第二部分：威胁模型与风险地图。第一部分：最新背景与定义边界。@清新研究团队12026年6月

官方背景：CISA/NSA把Agent列入安全议题最新背景与定义边界US米UK一2026年“Careful Adoption”成为企业落地的重要参考CISA/NSA一 CISA、NSA及多国网络安全机构发布GUIDANCE?Agentic Al安全采用指导。一文件强调分层防御、严格访问控制、US人类监督和渐进式部署。一这意味着Agent安全已经从厂商最佳实践进入国家级安全议题进入国家级安全议题。PAGE 9Source: https://www.cisa.gov/resources-tools/resources/careful-adoption-agentic-ai-services

本报告来源于三个皮匠报告站（www.sgpjbg.com）,由用户Id:1181721下载,文档Id:1264678,下载日期:2026-06-0810官方背景：NIST聚焦能改变外部状态的Agent最新背景与定义边界影响(Influence)Agent一RF明确区分普通聊天机器人与行动型智能体。一 NIST RFI关注能够采取行动并影响外0部状态的Al agent systems。一议题包括独特威胁、开发部署、测量方法和环境约束。外部状态(External State)一这为企业风险分级提供了清晰边界。能改变外部状态来源：https://www.federalregister.gov/documents/2026/01/08/2026-00206/request-for-informationregarding-security-considerations-for-artificial-intelligence-agents

OpenAI视角：Agent是多步骤工作应用最新背景与定义边界Plan（规划）Tools（工具调用）State（状态保持）Approval（审批）一 规划、工具调用、协作和状态保持构成Agent基本能力一 Agents 是能规划、调用工具、协作并保持状态的应用。一当应用要管理编排、工具执行、审批和状态，就进入Agent工程范畴。一安全控制必须跟随这些工程能力一起设计。Sou...