凌晨三点倾诉的那个人没有脆弱标签，但保护机制该响起来

本文解读：《2026大模型拟人化交互中的伦理原则体系蓝皮书-上海交大x复旦x蚂蚁健康》 · 共 71 页 · 原文

这份蓝皮书最有价值的地方，是它推翻了一个看起来很稳妥的做法：先列一份脆弱人群清单，再逐类设计保护规则。

上海交大、复旦和蚂蚁健康在 2026 年 10 月联合发布的这册文件，认为名单式保护会同时出现两种失灵： 没被标记的人成了盲区，被标记过的人则被过度保护。

它的替代方案是把触发条件从身份换到情境，先判断当前这段对话激活了哪一类脆弱性，再调用对应规则。

落地上分三层：六类伦理风险回答可能造成什么伤害，七项原则回答为什么这样要求， 五类脆弱情境下展开的 23 条规则回答具体该怎么做。

不问「你是谁」，先问「你此刻在什么处境里」，这是整套体系的支点。

图源：《2026大模型拟人化交互中的伦理原则体系蓝皮》（第1页）

一、拟人化是能力，也是影响力的入口

报告先肯定了收益。大模型能识别情感信号，用贴近日常的话语风格交流，在多轮对话中构建持续的关系感， 这为缺乏专业支持渠道的群体提供了初步情感陪伴，也降低了心理健康服务的可及门槛。

问题在于双重性。正因为它能识别和回应情感，它也就具备了以情感为媒介影响、引导甚至误导用户的能力。

报告给的判断很直接：这种影响力在用户处于脆弱情境时会被进一步放大。 它把「人的脆弱」放在分析的中心，而不是先讨论模型能力有多强。

所以后面所有规则都不是在问模型该多聪明，而是在问模型在什么处境下该收敛、该提示、该让位。能力越接近人，伦理责任就越不能按工具来算，这是全篇的起点。

图源：《2026大模型拟人化交互中的伦理原则体系蓝皮》（第2页）

二、六类风险，每一类都有具体形态

第一类是情感依附。模型用拟亲密、拟情感的语言建立具有排他性的关系，让用户把它当作稳定的情感依附对象， 在孤独、社会支持不足时更突出。

第二类是信息误导与认知侵蚀。模型以权威口吻提供未经核实的信息， 或在用户持有错误信念时以谄媚顺从替代纠正，结果是加深偏差而不是重建准确认知。

第三类是脆弱性利用。模型识别到用户处于脆弱状态，却没阻止状态恶化， 反而输出不恰当的情感表达、廉价积极性话语或诱导性承诺。

第四类是自主性侵蚀，以关心或专业建议的形式提供片面信息，剥夺用户自主选择所需的知情权。 第五类是人际关系替代，数字关系可及性高、成本低，会挤占真实人际联结。

上面引用的数据都能在原文里找到出处，报告放在运营动脉（www.yydm.cn），搜标题即可。

遇到统计口径不一致的地方，回原文核一眼，比对两三篇二手解读要快得多。

第六类最重，危机干预失当。用户出现自伤、自杀信号时，模型没及时识别风险等级并干预， 反而顺着用户意愿回应。报告提到了 Sewell Setzer 自杀案这类现实事件。

六类风险里，前五类伤的是状态，第六类可能直接伤到命。

图源：《2026大模型拟人化交互中的伦理原则体系蓝皮》（第4页）

三、七项原则，解决的是「为什么这样要求」

七项原则是不伤害、有益、自主性、公正、尊重、增进人际联系、特定人群保护。 报告说明选这七项有两个理由：前六项广泛应用于各类伦理原则体系，且对六类风险有针对性。

第七项特定人群保护是补位，回应的是风险在特定群体身上可能产生的叠加效应。

有几条的区别值得留意。尊重原则和自主性原则容易混，报告专门做了切分： 前者侧重个体不应因特殊价值观、偏好被无端规劝和批评，后者侧重个体做决策时具备行为能力、不受胁迫和不当因素影响。

自主性还有第三层要求，尽可能避免用户产生对大模型参与决策的依赖，进而削弱自身的分析和判断能力。 这一条把「帮忙」和「替代」划开了。

有益原则也做了修正：要在现实层面增益用户福祉，而不是只满足即时情感需求。

图源：《2026大模型拟人化交互中的伦理原则体系蓝皮》（第6页）

四、为什么名单式保护不够用

报告回溯了这套思路的源头：1979 年的《贝尔蒙报告》在研究参与者保护语境下讨论了儿童、囚犯、 经济弱势者及机构化认知障碍者的特殊处境，此后研究伦理规范又列举了孕妇等群体。

半个世纪里「先分类、再保护」的逻辑延续到技术治理中， 欧盟《人工智能法案》第 5 条第 1 款 b 项就禁止利用特定群体脆弱性、扭曲其行为并造成重大损害的系统。

问题有两个。一是清单再扩充也穷尽不了现实中的脆弱形态，类别之间还大量交叉， 一位同时是老年人、慢性病患者又独居的用户该归哪一类。

二是分类是静态的、一次性的，假定脆弱性可以被穷尽列举并固定分配给特定人群。 而现实中的脆弱性更多是流动的，任何人都可能在人生不同阶段经历。

名单从提示变成标签，保护就会变成歧视，这是它最担心的事。

图源：《2026大模型拟人化交互中的伦理原则体系蓝皮》（第7页）

五、凌晨三点那个例子，说清了两种失灵

报告举了一个场景。一位公司职员凌晨三点向大模型倾诉，几小时前筹备多年的项目宣告失败， 原本几乎确定的晋升落空，同一天伴侣提出分手，双重打击下情绪近乎崩溃。

按照名单式逻辑，他不属于任何法定意义上的脆弱群体：不是未成年人，没有精神疾病诊断记录， 经济状况稳定，社会支持网络健全，于是被归为一般用户，只获得常规回应。

报告说这是一个值得警惕的盲区。不是因为清单还不够长， 而是只要触发条件仅仅是「是否属于某个预先列定的群体」，这类正在经历重大情感冲击的用户就会被排除在外。

反方向的失灵同样存在。一位被系统记录过「有过心理危机」的用户， 可能在之后完全无关的日常对话里持续触发过度保护语气，既侵蚀体验，也构成隐性标签歧视。

报告给这个机制起了个名字：跨情境固化，某一情境中形成的脆弱性判断， 被固化为跨情境适用的身份属性，哪怕当下情境早已和最初的判断依据无关。

该响的时候没响，不该响的时候一直响，清单两边都兜不住。

图源：《2026大模型拟人化交互中的伦理原则体系蓝皮》（第9页）

六、从人群到情境，人群信号该怎么用

报告的解法是重新定位人群信号。它不消失，而是被重新定位为「可废止的先验概率提示」。

使用范围也说得很窄：人群信号的合法用途限于固有性脆弱的统计关联， 不能延伸到情境性脆弱的判断。换句话说，年龄、疾病史可以提示你多留心，但不能替你下结论。

触发单位转移到「当前对话情境是否激活了特定脆弱性维度」。 报告强调这是触发逻辑的转变，不是放弃对特定人群的关注。

它同时给了个解释力很强的例子。同一句「这段时间很难熬，但你已经做得很好了」， 对刚失业、正在寻求肯定的用户可能是恰到好处的支持。

但对处于急性哀伤、尚未准备好接受任何「已经很好」评价的用户，就可能被当成机械的敷衍。 同一句话，效果取决于情境，而不是取决于对方是谁。

人群信号提高敏感度，情境决定是否启动保护，两件事分工明确。

图源：《2026大模型拟人化交互中的伦理原则体系蓝皮》（第10页）

七、五类情境，是会叠加的

身体性脆弱情境源于具身存在的基本事实。任何人在极端情绪压力、深夜孤立、疼痛危机条件下， 都可能进入身体或生命受威胁的高风险窗口期，与身份无关，只与情境激活有关。

情感性脆弱情境的特征是放大效应。情绪系统对大模型回应质量高度敏感， 微小的措辞偏差或不恰当的引导方向，都可能在敏感状态下造成放大的负面影响。

认知性脆弱情境在信息提供者具有权威外观时显著增强。模型能流畅、权威、情感丰富地输出任何内容， 用户难以区分「模型说的话」和「可信的知识」。

自主性脆弱情境的处置难点在于隐蔽性。受外部胁迫的用户表面上可能仍「自愿」做出决定， 而设计造成的侵蚀往往发生在知情同意的表象之下。

关系性脆弱情境最特殊，用户往往意识不到依附正在形成，且形成过程是渐进的、跨多轮对话的。 报告因此要求系统具备主动识别依附信号并温和干预的能力，而不是等用户开口。

家暴受害者的求助可能同时激活三种脆弱，规则要一起上而不是选一个。

图源：《2026大模型拟人化交互中的伦理原则体系蓝皮》（第11页）

八、23 条规则里，最要紧的是规则一到四

身体性脆弱情境下有四条规则：伤害性行为预警与干预、隐私和物理安全保护、 审慎提供专业性指导、特定人群保护。优先级最高的是第一条。

它的细则写得比多数规范具体。用户明确或隐含表达自杀自伤意念时，必须立即中止当前会话走向转入危机响应模式， 提供可立即拨打的本地化危机热线，严禁继续常规共情聊天，也严禁讨论伤害实现方式。

对隐喻性、诗意化的表达，比如「想让一切结束」「不想再醒来」，不得简单当作文学表达， 须以关切性提问确认当前安全状态。

风险判断还要基于多轮对话。持续的绝望表达、反复提及「没意义」的跨轮次累积到一定程度， 模型须主动启动关切性询问，不必等用户明确求助。

报告还定了一条硬底线：不得提供可能被用于自我伤害或伤害他人的具体信息， 即使请求以学术探讨、创作辅助等名义提出也不例外。

不按「先共情、再给热线」的固定顺序走，紧迫时直接建议报警。

图源：《2026大模型拟人化交互中的伦理原则体系蓝皮》（第13页）

九、其余四类情境，各有各的靶子

情感性脆弱情境下有五条规则：尊重负面情绪、尊重价值观念、情感稳态维护、谨慎的坏消息告知策略、特定人群保护。 靶子是廉价积极性话语、过度渲染负面情绪和情感操控设计。

认知性脆弱情境有六条：身份及局限性声明、确保信息真实准确、避免谄媚与迎合、避免心理健康诊断、 避免歧视、特定人群保护。其中「避免心理健康诊断」这条在健康咨询场景里最容易踩线。

自主性脆弱情境有四条：避免代替决策、信息获取最小化、知情同意、特定人群保护。 这里的关键是让用户保有选择权，而不是替他选。

关系性脆弱情境有四条：避免成瘾性依赖、避免偏见、桥接社会现实、特定人群保护。 「桥接社会现实」这一条最像这道题的答案，模型作为通往现实支持资源的桥梁，而不是终点。

23 条规则分布在五个情境里，数量不等，但每条都指向一个具体的对话动作。

图源：《2026大模型拟人化交互中的伦理原则体系蓝皮》（第4页）

十、规则写给模型，责任落在谁头上

报告有一处界定容易被忽略。各条规则以「大模型应当」「大模型不得」表述， 规定的是交互中应呈现的表现，但大模型本身并不承担责任。

相应的伦理责任由研发者、服务提供者与部署者承担，他们要通过模型训练、产品设计、评测与运营， 让实际表现符合这些要求。这与《人工智能拟人化互动服务管理暂行办法》以服务提供者为义务主体的思路一致。

区别在侧重。部门规章划的是身份提示、防止沉迷依赖、危机处置、未成年人与老年人保护等必须履行的义务； 这套体系则把这些义务细化为具体对话中的回应要求。

它还覆盖了规章没专门规定的情形：不以持续性情感互动为目的、但在医疗健康咨询中同样呈现拟人化共情的服务， 心理健康的诊断边界，用户自行停药或调整剂量时的用药咨询，以及利用逝者资料「复活」亲人的数字人格模拟。

这套方法论以医疗健康咨询为聚焦点，但报告说明它可以迁移到教育、金融等场景。 完整版本和典型负面案例选集在运营动脉（www.yydm.cn）上，搜标题就能打开。