生成式人工智能行业网络数据安全风险评估工作手册二○二五年九月
牛成式人工智能行业网络数据安全风险评估工作手册前言护法》《上海市数据条例》等法律法规,明确生成式人工智能行业网络数据安全风险评估实施细则，现将生成式人工智能行业各单位开展网络数据安全风险评估工作流程、步骤、方法等总结形成本工作手册。本工作手册参与编制单位为星环信息科技（上海）股份有限公司，由上海市委网信办、徐汇区委网信办提供指导。上海市信息安全测评认证中心提供技术支持
牛成式人工智能行业网络数据安全风险评估工作手册目录目录一、总体概达二、行业特点与评估目标.....................（一)牛成式人工智能业务特点…......................(二)评估核心目标(三)工作手册依据2（四)行业指标分析三、牛成式人工智能行业网络数据安全风险评估流程(一)评估准备.………乎1、明确评估范围12、组建评合团队.-3、制定评估方案.12(二)信息调研..............13...1、牛成式人工智能企业基本情况调研2、生成式人工智能全业务链条及技术架构调研…4心
牛成式人工智能行业网络数据安全风险评估工作手册3、生成式人工智能数据资产调研...4、数据今生命周期处理活动调研….....1515.安全防护措施调研.1(三)风险识别]171、风险识别内容...-172、风险识别方法18.............(四）综合分析11、风险分析.2、风险评价....-20(五)评估总结.........1、编制评估报告212、制定整改方案......附录1信息调研表.......23附录11牛成式人工智能企业基本情况调研表….23附录12牛成式人工智能全业务链条及技术架构调研表5附录13牛成式人工智能数据资产调研表1III
牛成式人工智能行业网络数据安全风险评估工作手册附录14数据合社命国期处押活动调研券30附录15安全防护措施调研表….43附录风险识别表-附录2牛成式人工智能服务基础风险识别表.47附录2.1.1数据安全管理评估.表.......,附录2.1.2数据安全技术评估表71附录2.13个人信息保护评估表....83附录22预训练数据和优化训练数据风险识别表...106附录2.2.1数据安全管理评估表.....106附录222数据处理活动评估表108附录2.2.3数据安全技术评估表.120附录2.3生成内容风险识别表..................1)附录23.1数据处理活动评估表....122附录2.32数据安全技术评估表128附录24用户交石数据风险识别表131附录2.4.1数据处理活动评估表.....3IV
牛成式人工智能行业网络数据安全风险评估工作手册附录242数据安全技术评估表137.........................附录3综合分析方法….145附录3.其型数据安全网险类型.1附录32风险危害程度分析147附录33风险发生可能性分析153附录34风险评价.-6-附录4评估总结模板.................158
牛成式人工智能行业网络数据安全风险评估工作手册一、总体概述本工作手册介绍了生成式人工智能行业各单位评估准备、信息调研、风险识别、综合分析、评估总结等网络数据安全风险评估实施流程,明确了生成式人工智能行业网络数据安全风险评估实施工作流程、步骤、方法等、牛成式人工智能企业可直接根据本工作手册开展评估;第三方评估机构可依据本工作手册出具具有生成式人工智能行业特色的评估报告:也可供生成式人工智能行业主管监管部门实施检查评估时参考二、行业特占与评估目标（一）生成式人工智能业务特点牛成式人工智能行业县备数据依赖性高模型与牛成内器的不可控性、合规与伦理挑战及动态演进的威胁场量等显著特征首先是数据依赖性高,海量训练数据依赖互联网公开数据、用户生成内容（UGC）、企业私有数据等，可能涉及敏感信息(如个人隐私、商业秘密),数据来源复杂,多源数据聚合易引入未注洗的恶意内容或偏见数据,增加数据泄露和滥用的风险。其次是模型与生成内容的不可控性，可能生成虚假信息、有害内容(暴力、歧视性文本)、版权侵权内容(模仿受版权保护的风格)。模型易受提示词注入或后门攻击，导致恶意输出或数据泄露。最后是合规与桃战，训练数据可能涉及不同的私法规，牛成内容可能被用于诈骗、舆论操纵等非法用途，企业需承相连带事
任。（二)评估核心目标基干上述生成式人工智能业务特点，生成式人工智能行业网络数据安全风险评估的核...
