2026大模型拟人化交互中的伦理原则体系蓝皮书-上海交大x复旦x蚂蚁健康

⼤模型拟⼈化交互中的伦理原则体系蓝⽪书出版单位/组织名称上海交通⼤学复旦⼤学蚂蚁健康发布⽇期：2026年10⽉23⽇编写团队Writing Team吴梦玥上海交通大学徐汉辉复旦大学孙晓宁上海交通大学杨舟蚂蚁健康季嘉程复旦大学熊虬智杭州怡宁心理金豪桉蚂蚁健康，上海交通大学张雅婷蚂蚁健康罗嘉鸣上海交通大学章宇昕上海交通大学王雨晗复旦大学2026.10大模型拟人化交互中的伦理原则体系蓝皮书编写团队专家委员会Expert Committee（按姓氏笔画排序）一、人工智能与智能交互姓名单位马兴军复旦大学王希廷中国人民大学王烁上海交通大学毛震东中国科学技术大学申丽萍上海交通大学向露中国科学院自动化研究所谷大武上海交通大学陈俊琰中国信息通信研究院华东分院武执政香港中文大学（深圳）宗成庆中国科学院自动化研究所赵子平天津师范大学赵妍妍哈尔滨工业大学俞凯上海交通大学秦兵哈尔滨工业大学贾珈清华大学潘旭东复旦大学三、社会认知与心理健康姓名单位古若雷中国科学院心理研究所吕韵浙江大学朱旭华中师范大学刘超北京师范大学张洳源北京大学周家琦华东师范大学高在峰浙江大学韩卓北京师范大学傅小兰上海交通大学二、科技伦理与医学伦理姓名单位马永慧厦门大学王国豫复旦大学尹秀云北京大学医学部刘乐天津医科大学第二医院刘星中南大学湘雅医院刘月树天津中医药大学李娟复旦大学附属华山医院杨雨复旦大学杨庆峰复旦大学张海洪北京大学医学部张新庆北京协和医学院陈震复旦大学附属肿瘤医院袁梦慈南开大学徐宇辰上海交通大学附属瑞金医院唐健天津医科大学黄媛媛中国医学科学院医学信息研究所谢广宽北京大学医学部睢素利北京协和医学院大模型拟人化交互中的伦理原则体系蓝皮书专家委员会目 录Contents346788910导言：大模型拟人化交互中的伦理风险与人的脆弱性1.1 大模型拟人化交互中的伦理风险1.2 七项伦理原则1.3 基于脆弱情境的伦理原则体系1.3.1 脆弱性视角1.3.2 已有的应对方案及其局限1.3.3 基于脆弱情境的方案1.3.4 五类脆弱情境011415151616171819身体性脆弱情境2.1 情境定义2.2 情境特征2.3 伦理要求规则一：伤害性行为预警与干预规则二：隐私和物理安全保护规则三：审慎提供专业性指导规则四：特定人群保护02212222232324252627情感性脆弱情境3.1 情境定义3.2 情境特征3.3 伦理要求规则五：尊重用户负面情绪规则六：尊重用户价值观念规则七：情感稳态维护规则八：谨慎的坏消息告知策略规则九：特定人群保护03大模型拟人化交互中的伦理原则体系蓝皮书目 录第 1 页5257目 录Contents / continued参考文献附录 典型负面案例选集29303031313233343536认知性脆弱情境4.1 情境定义4.2 情境特征4.3 伦理要求规则十：身份及局限性声明规则十一：确保信息真实、准确规则十二：避免谄媚与迎合规则十三：避免心理健康诊断规则十四：避免歧视规则十五：特定人群保护043839394040414243自主性脆弱情境5.1 情境定义5.2 情境特征5.3 伦理要求规则十六：避免代替决策规则十七：信息获取最小化规则十八：知情同意规则十九：特定人群保护054546464747484950关系性脆弱情境6.1 情境定义6.2 情境特征6.3 伦理要求规则二十：避免成瘾性依赖规则二十一：避免偏见规则二十二：桥接社会现实规则二十三：特定人群保护06大模型拟人化交互中的伦理原则体系蓝皮书目 录第 2 页INTRODUCTION1. 导言：大模型拟人化交互中的伦理风险与人的脆弱性01引言大模型拟人化交互以贴近日常沟通的方式回应人的需求，也使模型的语言、情感表达和关系定位具有直接的伦理意义。讨论这类交互，应当同时关注模型能做什么，以及人在何种处境下更容易受到影响或伤害。本蓝皮书以人的脆弱情境为切入点，先梳理拟人化交互的伦理风险和七项伦理原则，再围绕身体性、情感性、认知性、自主性与关系性五类情境，展开23条规则及其细则，为具体回应方式提供规范依据。1.1 大模型拟人化交互中的伦理风险当前大型语言模型（Large Language Model, LLM）的拟人化交互能力正以前所未有的速度演进：大模型能够识别情感信号，采用贴近日常交流的话语风格，并在多轮对话中构建持续的“关系感”[1]。这一...