智能体安全研究报告从大模型安全到可控行动系统工具权限沙箱审计威胁模型·控制平面·落地路线清新研究团队|2026年6月
三个核心判断开场与核心判断行动系统工程控制组织治理权限运行时系统Agent的安全边界比聊天机只靠提示词无法保证工具企业壁垒在于安全控制平面器人大得多调用和外部动作安全。,而不是单个模型Agent不是一个按钮,而是一个有权限的运行时系统。@清新研究团队|2026年6月
开场与核心判断一句话定义一智能体安全=让会行动的AI可授权、可约束、可追责已L一智能体能规划、调用工具保持状态并影响外部系统安全目标不是让模型永远不犯错,而是让错误不会无约束扩散R一核心抓手是身份、权限、工具、上下文、沙箱、审批和审计围火园AgentSafetyIdentity+ Policy +Tools +Logs@清新研究团队|2026年6月
4为什么现在讨论名品向ChatbotCopilotAgent-+EiAutonomy开场与核心判断Agent从实验工具进入企业生产环境开发框架和APT让工具调用、文件操作、沙箱执行更容易企业开始把Agent用于客服、研发、安全运营、财务和内部流程60,员能力越接近真实操作,安全治理越必须前置Footer source:https://developers.openai.com/api/docs/guides/agents
风险的本质变化开场与核心判断回答(执行一从"内容风险”升级到"行动风险一同一个错误,在Agent中可能变一普通大模型的主要问题是输出质成邮件外发、数据改写或生产量和内容边界。变更。智能体的主要问题是能否代表用户或系统采取行动。@清新研究团队|2026年6月
本报告的研究边界开场与核心判断Agent运行时泛化主题工具调用研究对象(排除)多步骤规划十MCP(Model模型软件Context Protocol)所有Al伦理+国+内容审核沙箱聚焦能影响外部状赠记忆态的智能体系统数据人6多Agent协作模型评估研究对象是“模型+软件+权限+数据+人”的组合系统@清新研究团队|2026年6月
对企业的战略含义治理难得安全部署能力高难度挑战自动商品化不会商品化趋势基础门Agent能力能力易得开场与核心判断—Agent能力会商品化,安全部署能力不会自动商品化。模型和框架会越来越易得。可规模化的权限、审计、评测和事故响应是组织能力越早建立控制平面，越能更快释放Agent价值。@清新研究团队|2026年6月
do报告结构开场与核心判断从定义、风险到控制、评测和路线图控制平面第三部分:控制架构、评测运营、治理路线。第二部分:威胁模型与风险地图。第一部分:最新背景与定义边界。计@清新研究团队|2026年6月
官方背景:CISA/NSA把Agent列入安全议题最新背景与定义边界M米2026年“CarefulAdoption"成为企业落地的重要参考C·CISA/NSA-CISA、NSA及多国网络安全机构发布GUIDANCEAgenticAI安全采用指导。一文件强调分层防御、严格访问控制人类监督和渐进式部署。这意味着Agent安全已经从厂商最佳实践进入国家级安全议题。进入国冢级安全议题。PAGE9Source: https://www.cisa.qov/resources-tools/resources/careful-adoption-agentic-ai-services
1o官方背景:NIST聚焦能改变外部状态的Agent最新背景与定义边界影响(Influence)RFI明确区分晋通聊天机器人与行动Agent型智能体。NISTRFI关注能够采取行动并影响外一部状态的Al agent systems.议题包括独特威胁、开发部署、测量方法和环境约束。外部状态(ExternalState)这为企业风险分级提供了清晰边界。能改变外部状态来源:https:/w.federalregister,gov/documents/2026/01/08/2026-00206/request-for-information-regarding-security-considerations-for-artificial-intelligence-agents
OpenAI视角:Agent是多步骤工作应用最新背景与定义边界Plan(规划)Tools(工具调用)State(状态保持)Approval(审批)规划、工具调用、协作和状态保持构成Agent基本能力Agents是能规划、调用工具、协作并保持状态的应用。当应用要管理编排、工具执行、审批和状态，就进入Agent工程范畴。安全控制必须跟随这些工程能力一起设计。Source:httos:/developers,openai.com/api/docs/guides/Aagents
OpenAI2026:沙箱执行成为Agent基础设施最新背景与定义边界文件、命令、代码和长任务需要受控工作空间受控沙箱(Sandbox)OpenAI2026年介绍了支持Aqen...
