电脑桌面
添加运营动脉到电脑桌面
安装后可以在桌面快捷访问

2025年大模型供应链安全的熵增效应:风险挖掘与熵减策略报告-vivo(戎誉、凡浩)会员免费优质

2025年大模型供应链安全的熵增效应:风险挖掘与熵减策略报告-vivo(戎誉、凡浩)_第1页
1/47
2025年大模型供应链安全的熵增效应:风险挖掘与熵减策略报告-vivo(戎誉、凡浩)_第2页
2/47
2025年大模型供应链安全的熵增效应:风险挖掘与熵减策略报告-vivo(戎誉、凡浩)_第3页
3/47
2025年大模型供应链安全的熵增效应:风险挖掘与熵减策略报告-vivo(戎誉、凡浩)_第4页
4/47
2025年大模型供应链安全的熵增效应:风险挖掘与熵减策略报告-vivo(戎誉、凡浩)_第5页
5/47
2025年大模型供应链安全的熵增效应:风险挖掘与熵减策略报告-vivo(戎誉、凡浩)_第6页
6/47
2025年大模型供应链安全的熵增效应:风险挖掘与熵减策略报告-vivo(戎誉、凡浩)_第7页
7/47
2025年大模型供应链安全的熵增效应:风险挖掘与熵减策略报告-vivo(戎誉、凡浩)_第8页
8/47
2025年大模型供应链安全的熵增效应:风险挖掘与熵减策略报告-vivo(戎誉、凡浩)_第9页
9/47
2025年大模型供应链安全的熵增效应:风险挖掘与熵减策略报告-vivo(戎誉、凡浩)_第10页
10/47
安全开发者峰会大程型供应链安全的婚增效应风险挖掘与婚减策略戒酱、凡浩vivo大横型安全工程师EDRE

2025SDCAbout us戎誉VVO大模型安全工程师,专注于大模型安全研究,涵盖模型框架层安全、AI产品安全等方向。曾发现多个NVDIA、LLaMA-Factory等主流厂商大模型产品中的安全漏洞并获得官方致谢。联系方式:rongyu@vivo.com凡浩vivo大横型安全工程师,主要从事大模型基础设施和大模型产品的攻防研究,发现过多个NVIDIA等厂商大模型产品的安全漏洞并获得厂商致谢联系方式:fanhao@vivo.com

2025SDC目录01引子:从“嫡”谈起02增效应:供应链失控点与风险实证03嫡减策略:模型供应链风险的控制与治理04未来展望:低墙模型生态

2025SDC目录01引子:从“嫡”谈起02熵增效应:供应链失控点与风险实证03嫡减策略:模型供应链风险的控制与治理04未来展望:低墙模型生态

2025SDC安全领域中的“嫡”是什么?焖的起源:热力学一信息论H(X)=P(x)logzP(X)安全语境中的熵:系统复杂度与不确定性综合指数烤增效应:组件增加一攻击面扩大一风险上升墙值(复杂度/不确定性)大模型放大效应:参数膨胀+外部依赖+第三方输入→高滴系统,失控点分布店低风险安全增=攻击面扩大+不可控性增强系统组件/依赖数量随着大模型系统复杂度逐渐提升,安全=控模型攻击面1,可控性!

2025SDC为什么大模型让系统“滴增"?I.规模扩张Il.供应链延伸传统软件代码一构建一部署wQ11089大模型315710数据采集→数据处理一训练一模型分发一CT-3135微调一部署→推理一应用-…me3.0Tan290002152019202020212022焖增川II.攻击面扩展IV.黑盒特性API服务商攻击载荷大模型系统隐蔽嵌入文件框架开发者模型权重文件训练方数据(-py/-pki/.mdl/...)提供方1A111

2025SDC大模型供应链结构解构+风险点上游中游下游采集阶段知识库检索数据网页数据投毒训练数据训练推理应用处理阶段A数据集投毒数据镜像投毒RAG投毒依赖开发包投毒指令注入Dos沙箱逃逸模型模型投毒分发恶意模型未授权访问SSRF

2025SDC大模型供应链结构解构+风险点上游中游下游采集阶段知识库检索数据网页数据投毒训练数据训练推理应用处理阶段A数据集投毒数据镜像投毒RAG投毒依赖开发包投毒指令注入Dos沙箱逃逸模型模型投毒分发恶意模型未授权访问SSRF

2025SDC大模型供应链结构解构+风险点上游中游下游采集阶段知识库检索数据网页数据投毒训练数据训练推理应用处理阶段A数据集投毒数据镜像投毒RAG投毒依赖开发包投毒指令注入Dos沙箱逃逸模型模型投毒分发恶意模型未授权访问SSRF

2025SDC大模型供应链结构解构+风险点上游中游下游采集阶段知识库检索数据网页数据投毒训练数据训练推理应用处理阶段A数据集投毒数据镜像投毒RAG投毒依赖开发包投毒指令注入Dos沙箱逃逸模型模型投毒分发恶意模型未授权访问SSRF

2025SDC大模型供应链结构解构+风险点上游中游下游采集阶段知识库检索数据网页数据投毒训练数据训练推理应用处理阶段A数据集投毒数据镜像投毒RAG投毒依赖开发包投毒指令注入Dos沙箱逃逸模型模型投毒分发恶意模型未授权访问SSRF

2025SDC大模型供应链结构解构+风险点上游中游下游采集阶段知识库检索数据网页数据投毒训练数据训练推理应用处理阶段A数据集投毒数据镜像投毒RAG投毒依赖开发包投毒指令注入Dos沙箱逃逸模型模型投毒分发恶意模型未授权访问SSRF

2025SDC目录01引子:从“嫡”谈起02增效应:供应链失控点与风险实证03嫡减策略:模型供应链风险的控制与治理04未来展望:低墙模型生态

2025SDC供应链失控点与风险实证vivo干镜安全实验室发现训练环境及训练框架相关漏洞11个并获得CVE.详情加下漏洞来源版本号CVE编号海洞描述find duplicates. py在处理--oad-fingerprints指定的文件时直接使用pickle.lbad)反序列化且未CVE-2025-23264健验证,运行通过恶意构造的指纹文件触发恶意代码0.12.0fiter ngranspy在未对用户提供的字典文件做验证的情况下直接使用picke.bed()反序列化文CVE-2025-23265攻击者可借此注入并执行任意代码午,CVE-2025-23305toob组件在读取用户输入的生成token数时对input)的内容直接使用eval),且未对输入作验证Megatron-LM0.12.1VE-2025-23306在arguments....

1、当您付费下载文档后,您只拥有了使用权限,并不意味着购买了版权,文档只能用于自身使用,不得用于其他商业用途(如 [转卖]进行直接盈利或[编辑后售卖]进行间接盈利)。
2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。
3、如文档内容存在违规,或者侵犯商业秘密、侵犯著作权等,请点击“违规举报”。

查找下载文件的指引

一、电脑端

- Windows 系统:按下键盘快捷键 `Ctrl + J`,即可打开下载列表。  

- Mac 系统:按下键盘快捷键 `⌘ + J`,即可打开下载列表。  

二、手机端

1. 打开手机浏览器,点击浏览器右下角的 “≡”(或“更多”)图标。  

2. 在弹出的菜单中找到并点击 “下载内容”(或类似选项),即可查看已下载的文件。  

提示:不同浏览器界面略有差异,若未找到“下载”入口,可尝试在浏览器设置中搜索“下载”关键词。


2025年大模型供应链安全的熵增效应:风险挖掘与熵减策略报告-vivo(戎誉、凡浩)

确认删除?
签到
收藏
足迹
微信
  • 站长微信
回到顶部