CCD赛迪CCCCIL人工智能伦理风险与治理研究CCIDCCID中国电子信息产业发展研究院政策法规研究所(工业和信息化法律服务中心二O二五年四月CCID
问题聚焦CCID赛迪随着人工智能技术向经济社会各行业各领域加速渗透，其引发的伦理争议已成为全球关注焦点，美欧等主要经济体均根据自身情况，开展了一系列伦理治理实践。目前，我国人工智能伦理治理的基本理念、规则体系、治理模式和国际主张初步形成。在新形势新要求下,亟待优化完善具有中国特色的人工智能伦理风险治理路径。本研究重点回答:人工智能伦理风险是什么治理现状如何。未来如何治理等问题是什么?CCID人工智能伦理风险的内涵特征是什么?人工智能带来了哪些伦理风险?这些风,险如何进行类型划分?拟回答治理现状如何?TCCID问题国际组织、欧盟、美国等开展了哪些伦理治理实践,探索了哪些模式?我国已探索开展了什么样的伦理治理实践?未来如何治理?面临哪些新形势新要求?应如何完善现有治理路径?CCID
思路框架CCTD赛迪治理对象分析内涵特征分类体系生成机制典型场景/案例治理理念国际组织治理规则治理实践探索国外欧盟我国治理模式美国国际主张面临形势要求中央要求亟待落实实践问题亟待解决企业诉求亟待回应优化路径建议持续完善法律法规体系强化多元协同治理机制深化国际治理合作统筹伦理治理与产业发展
人工智能五大伦理风险CCID赛迪人工智能伦理风险是指:在人工智能技术的开发、部署和应用过程中,因技术特性、使用方式或管理缺陷等而引发的侵犯个人权益、冲击社会秩序、违背人类价值观的伦理风险，具体可从五个维度来分析。侵权性风险歧视性风险社会性风险责任性风险失控性风险对个人权益的直接侵犯对特定群体产生不公正的误用、滥用技术或技术造成负面影响后的责任人工智能行为及影响具体含义价值判断或决策结果局限,而对公共社会秩界定难题超出人类预设、理解序造成负面影响和可控范围侵犯个人信息权对特定群体产生歧视性决生成不良信息助长错误"主体"身份认同危机人类主体能力退化和主要类型侵害个人生命健康权策结果价值观责任界定困难自主意识弱化侵犯知识产权生成内容出现歧视性表达技术漏洞导致生成虚假利益与责任分配不公人类丧失对人工智能错误信息的控制能力人为滥用技术导致财产损失、精神损害海量数据需求与过度收集训练数据包含隐性偏见内训练数据含有不良内容技术和模型的决策过程人类产生“认知卸算法"黑箱”与透明度缺模型存在技术漏洞被外难以被人类理解和预测载”“算法迷信"生成机制失模型内部运作机制难以理部输入干扰信息人工智能应用过程中各自主学习机制等导致技术漏洞与安全缺陷解和解释平台内容审核与处理机方责任关系复杂人类无法预测其行为技术+规制内容语料标准模糊制不完善数据资本垄断化、算法伦理审查形式化,如"合理适用""知情同意"生成内容的审核、监测和缺乏对失业等社会性风权力黑箱化缺乏对"主体性”危机制难执行控制机制不够完善险的有效应对方案机的关注缺乏有效的版权审查和授权机制
国际组织伦理治理现状CCID赛迪发布文件—提出治理原则建议搭建平台一推动全球伦理共识制定标准一规范技术发展总体原则人工智能系列峰会(2024.09)、联合国世界数字技术院(WDTA）发布《生成式人工智能联合国《为人类治理人工智能》2023年英国峰会，28个国家和欧盟签署《布业切利宣应用安全测试标准》和《大语言模型安全测试方法》教科文组织《人工智能伦理问题建议书》(2021.11）、言》;2024年首尔峰会,10个国家和欧盟签署《首尔(2019.06)等(2024.04),是国际组织首次就大模型安全领域声明》;2025年巴黎行动峰会,61个国家姓署(巴黎发布国际标准,人工智能宣言》,促使越来越多的国家和地区就人工智慧双友人的间能全球治理问题达成共识。价发展《生成式人工智能应用安全测试标准)人工智能造福人类全球峰会定义人工智能应用程序架构各层的测试和验证范围2024年5月,国际电信联盟(ITU）与40个联合国伙伴确保多样机构合作达成了推动人工智能负责任应用、制定相关标《大语言模型安全测试方法》准、讨论全球人工智能治理恒架等共识。提出大语言模型的安全风险分类、攻击的分类分《人工智能伦理问题建议书》4项核心价....
