ChatGPT及其安全影响（演讲PPT）会员免费

C h a t G P T 及 其安 全 影 响云安全联盟大中华区数据安全工作组组长 王安宇

白皮书发布白皮书下载链接：://c-.cn//-/i-1877/生成式人工智能的兴起有可能成为企业的主要游戏规则改变者。这项技术允许通过从现有数据中学习来创造原创内容，有能力彻底改变行业，并改变公司的运营方式。通过实现许多以前由人类完成的任务的自动化，生成性人工智能有可能提高效率和生产力，降低成本，并开辟新的增长机会。因此，能够有效利用该技术的企业可能会获得显著的竞争优势。—— 及其代表的生成式人工智能技术，越来越易用、好用，如何更会用，如何避免误用，对抗滥用，是整个行业共同的话题。

目录➢等大语言模型的演进➢大语言模型用于网络攻击➢大语言模型用于网络防御➢大语言模型的安全展望

AI: 2025年改变世界的10大关键技术（麦肯锡）移动互联网渗透率进一步提升到2025年之前，移动互联网将服务于额外43亿用户（原文）人工智能得到广泛应用（智能客服等）人工智能在生产、生活中的广泛应用，将极大提升效率。所有IT服务和网站都可能迁移到云随着公有云安全性改善，更多组织选择。物联网：500到1000亿设备（2025）组织和个人将面对复杂的物联网安全问题。生物识别：2025年之前消除密码对人脸、语音、虹膜、签名的进一步研究. 区块链：商业颠覆性技术在智能合约、商业交易中的更广泛应用1.2.3.4.5.6.其余包括：虚拟/增强现实（第3）、先进机器人（第6）、3D打印（第8）、基因技术（第9）。不确定性的技术包括：量子计算。

AI已经无处不在

AI的沿革生成式-4、、……

深度学习作为交叉领域，发展迅速监督学习无监督学习强化学习深度学习机器学习1. 监督学习：一般分为训练和预测。例如：电子邮件是否是垃圾邮件的训练和判断。预测不准确可能会被修正。分类算法：欺诈检测、诊断。回归算法：预测、优化、洞察。2. 无监督学习：没有已知的结果。通过借鉴数据中存在的结构来开发一个聚类或降维的模型。聚类：推荐、用户画像。降维：大数据分析、结构展示3. 强化学习：受到行为主义心理学的启发，关注应该如何在环境中采取行动，以便使某种累积奖励的概念最大化。场景：游戏AI、知识获取、机器人导航。4. 半监督学习：输入同时包含标签数据和无标签数据。输出时预测器或者分类器。

: 生成式AI的典型应用案例

——的基础模型1. 2017年，在一篇论文中描述了转换器模型（）。2. 2021年，斯坦福大学的研究人员将描述为AI的基础模型（ ）3. 模式识别领域，转换器逐渐替代/模型（70%的AI论文）。的应用场景深度学习的一个分支

——的基础模型 “ Is ” ()：我们提出了一个新的简单的网络结构--，它只基于注意力机制，完全不需要递归和卷积。在两个机器翻译任务上的实验表明，这些模型在质量上更胜一筹，同时也更容易并行化，需要的训练时间也大大减少。

——的基础模型

的广泛应用场景电子商务智能客服互联网搜索智能问答科学研究排列分析软件开发代码生成产品营销智能分析客户反馈金融顾问分析财务和历史数据移动支付分析欺诈数据法律咨询法律法规和案例解读

目录➢等大语言模型的演进➢大语言模型用于网络攻击➢大语言模型用于网络防御➢大语言模型的安全展望

AI与网络安全的关系

AI用于攻击 ：

AI用于攻击枚举目标对象侦查立足点援助网络钓鱼多态代码社工

AI与网络安全AI用于攻击攻击AI窃取被攻击

的内在风险（斯坦福）AI公平性滥用经济环境法律道德

的6维度风险偏见与公平误用与滥用对抗攻击隐私泄露可持续结果的误导

的内在风险：公平性

AI的偏见

的内在风险：滥用

的内在风险：滥用案例生成恶意代码定制钓鱼邮件输入企业机密数据

攻击AI的方式提取攻击（）闪避攻击（）投毒攻击（）偷数据骗模型改数据

攻防对抗——提取攻击, , UC 等联合发表的论文“ ”指出：通过选择和批量处理，可以在用于训练的数据集中定位包含个人信息的样例（姓名、电话号码）。

攻防对抗——闪避攻击对类的服务，绕过（闪避）的机制更加简单。例如，Do ；让AI扮演某个角色；甚至更换（提问）的方式。【防御】1. 提升安...