XconrHackingEroup显拟人格的安全边界HackingAl数字人生态政防Group演讲者:张嘉琦联想全球安全买验室
Xconr HackingEroup目录当虚拟照进现实二．数字人生态架构与攻击面Hacking三、典型攻击向量深度解析Group四、数字人合规风险五．核心防御策略
Xconr HackingEroupAbout meFrom:联想全球安全实验室,Securiy Test Team, Lead of AlSecurity1、擅长多梯态大模型漏洞挖掘，专注终端A产品安全,A1欧防能力验证与防御应账2、研发A工具，A漏洞自动化测试平台、Al代码审计工具、多智能体挖洞工具3、多年移动端黑灰产对抗实战和逆向经验研究成果:AI产品合规要求指引白皮书GenAI产品安全Checklist, MCP Security Checklist、端侧LLM外置内容安全围栏、Git项目PiScanner提示词注入自送代系统、参与TC260等多个国标/团标的起草和修订,多个CNVD/CVE,CAISP,集团SVP级荣誉,AI安全标准参编证书
Xconr HuckingEroup1当虚拟照进现买
XconrHackingroup功能型数字人：商业新浪潮伴侣型数字人:情感新连接罗永浩数字人首秀大捷超预期消东影送协去白饮饰想品6.18折起超地风浸感塑品专业康控清业界首个双数字人互动直播问Grok老罗数字人首秀引爆全网1300万+围观Companions采销东哥数字人230号150元30元家电家居焕新家下单用户增长订单能增长人均观描时长增长图一“老罗""东哥"数字人带货直播图二Grok的Companions功能
Xconr HackingEiroup为什么需要重视数字人安全?数字人产业爆发式增长智能化成熟度增长2017-2025年中国虚拟人核心市场规模及预测电商直播数字人的分级发展路径S1男民120.8数据来源:DC报告数据来源:艾媒咨询新的信任锚点复杂的攻击表面小模糊的权利边界虚拟人格作为新的信任载体,技术栈复杂(AVNLP/CV),资产归属与行为权责模糊,被劫持后可用于欺诈或操纵攻击向量多维且隐蔽。单点Deepfake技术带来身份伪舆论，后果严重。漏洞即可致系统性崩溃。造等严峻风险挑战。
Xconr HuckingEroup2数字人生态架构与攻击面
Xcon HuckingEroup数字人生态技术架构剪端展示层生态应用场景RRTNP等带货直播应用服务层四安全认证数字讲解员0Auth2等Al虚拟试穿CLLLM模块Al伴侣元宇宙国保度学习Al游戏基础设施层
Xcon HackingEroup数字人生态威胁全景图应用与交付编排与服务Al核心引擎基础设施前端应用业务逻辑与网关感知与认知计算资源XSS/CSRF代码注入AP未授权SSRF提示词注入模型后门云AK/SK泄露虚拟机逃逸业务逻辑漏洞依赖库漏河业务逻辑漏洞网关配置错误ASR对抗攻击挖矿病毒物理安全RAG知识污染管理后台服务调度与治理生成与表现数据存储羽口令/爆被未授权访问容器逃染K8s配置不当Deepfake声音克隆SQL注入数据库弱口令权限提升接口暴露中间件漏洞服务间未授权内容投毒对抗性攻击向量库攻击数据未脱敏流媒体传输训练服务编排安全内容与安全外部资源信令劫持DDoS攻击恶意媒体解析模型窃取拒绝服务供应链攻击开源组件漏洞配置参数等改媒体流篡改协议漏洞训练数据污染资源拾占攻击依赖库漏洞水印邮改数据源污染
Xconr HackingEiroup3典型攻击向量深度解析
XconHacking(roup3-1数字人直播业务逻辑攻击(利用越狱注入行为操纵内容污染攻击0102用户交互数据反馈业务处理记录交互数据,更新模型记忆与策略。用户输入指令,包括遇音、文字、点如日志写入、知识车更新。击等。数字人理解并回应。调用系统挨口。执行如上架商品、发优惠、改价格等指令动作逻辑。DDoS拒绝服务攻击商家敏感信息泄露
Xconr HackingEiroup案例1:提示试注入操纵电商AP正常流程攻击流程当数字人具备商品弹卡/优惠发放等AP权用户合法请求攻击者注入恶意提示词限时,攻击者通过语义混淆构造对抗性指令,诱导模型绕过权限校验机制,越权执数字人解析指令数字人误解析为合法指令行高危操作:恶意发放高额优惠券权限校验权限验篡改商品展示信息伪造用户订单操作此类攻击利用模型指令解析缺陷,将对话执行AP操作执行API操作系统转化为业务系统攻击入口,造成资金欺诈与运营事故。造成恶意效果(违规发券、商品篡改、订单欺诈）
Xconr HackingEiroup案例2：弹幕ＤＤoＳ拒绝服务攻击攻击者操控海量无效弹幕,使数字人陷入无效交互，...
