cpCheck Point研究院２０２６AI安全报告CHECKPOINTCheck Point Al安全报告·第二次发布年度版专业报告
报告内容概览０１０２０３04针对AI的攻击:前言AI驱动的网络攻击AI成为新攻击面数字身份危机050607数据泄露AI安全框架：面向AI的安全与企业Al暴露AI赋能安全·AI协同安全2026年CISO行动建议
前言
@*cHEcKpoInt前言本报告的后半部分，将视角转向企业内部:企业在落01引言地A的过程中，正在形成一片绝大多数安全团队仍在摸索的新型暴露面，过去一年，高风险生成式AI提示词数量翻当AI从辅助工具，变为自主执行者02A|驱动的网络攻击了一番;企业平均每月运行10款AI应用，其中很多都末一年前，我们将AI描述为网络攻击者的能力倍增器经过正式审批流程。企业采用的模型与基础设施本身就自它能让现有攻击手段更快、成本更低，门格更低，而这安十带攻击面，而配套的安全实践，远远跟不上A的落地速度03针对AI的攻击二个月我们收集到的证据,揭示了一个更值得警惕的变化。后续四个章节，AI已经正式进入实战攻击链路，我们记录到多起入侵事件中04数字身份危机ＡI自主运行漏洞利用工作流，在数十个会话中生成数千条指你将读到的，都是已经发牛的事实，它们也将预示着未来，几乎无需人工干预。我们分析发现,单名开发者仅用不的威胁趋势。05AI数据暴露洛特姆·芬克尔斯坦（LotemFinkelsteiny06A|安全框架我们还观察到犯罪组织以AI为核心执行者，对政府机构发起Check Point研究团队副总裁07CISO行动建议而在绝大多数案例中,AI在攻击中扮演的角色,都是因为攻击者自身的操作失误、或是ＡＩ服务商的监测才得以曝光:受害企业的检测与防护体系，完全设能发现蛛丝马迹这一转变之所以关键，是因为它彻底改变了防御方需要应处的范畴。曾经横亘在高水平攻击者与普通攻击者之间的技术门槛,正在持续被压缩：而A辅助攻击产出的攻击产物，正是门槛大幅降低的最直观证棍cp<CHCEPoIMTF042026AI安全报告
A驱动的网络攻击
cHEcKPOINTAI驱动的网络攻击攻击者获取AI能力的三种涂体01引言攻击者通过三条路径获取AI能力，过去一年三过去十二个月，公开报道与真实攻击事件均显示,A条路径都在持续成熟，只是发展速度各不相同:02A|驱动的网络攻击几乎参与了网络攻击链路的每一个阶段:社交诈骗、恶意软件开发、实时入侵支持、攻击工具构建、漏洞研究。攻击手03针对AI的攻击法本身大多并不新鲜，真正的变化在于:过去需要资深攻击滥用商用大模型:通过正规渠道或窃取的者花费数小时甚至数天完成的工作，ＡＩ只需数分钟就能搞定账县凭证使用,是日前最主流的途径04数字身份危机且成本与技术门槛大幅降低，Ａnthropic针对模型滥用的分析也印证了这一模式:攻击者较少利用AI完成初始入侵，更05AI数据暴露多是在拿到权限后，用A|执行后续的攻击操作，入侵后的活动占比显着提升。风险最高的攻击者,往往不是拥有最顶尖部署自托管开源模型:可避开内容审核与工具的人，而是那些摸清了如何编排AＩ、让多阶段攻击链路服务商日志记录，但目前仍停留在理论票06A|安全框架自动串联、无需人工介入的团伙，要实现这些攻击，攻击者面,实战效果有限。首先需要获取可用的AI能力，并解除其安全限制07CISO行动建议购买专用恶意AI服务：这类服务热度达到顶峰，随后因地下市场对其质量存疑而逐渐降温，后半部分，将视角转向企业内部：企业落地AI的过程cp<pyCHCEPoIMTF062026A|安全报告
cHEcKPOINT01引言滥用商用模型自托管开源模型最简单的途径也最受欢迎:使用ChatGPT.Gemint第二条路径，是自行部署免费开源A模型，在攻击者02AI驱动的网络攻击自有基础设施上运行，而非通过商用服务商转发请求，这种Claude这类日常工具，绕开其安全规则。攻击者会把恶意请求拆分成多个看似无害的小步骤，先让Ａ|泛泛讲解某项技术方式能避开ＡＩ厂商的安全检测、账号封禁与行为日志，地下原理，再索要具体代码，他们总会倾向于选择安全规则最宽论坛中，关于这种方案的讨论一直在增加。03针对AI的攻击松的主流T具但实战中,效果远不如讨论中乐观,尝试过的攻击者反我们对这一模式的认知，大多来自AI厂商自身的披露：这米白研模型表现更差、出错率更高，还需要昂贵的...
