DeepSeek与Al幻觉清华大学新闻与传播学院新媒体研究中心人工智能学院双聘教授@新媒沈阳团队博士后张家2025年2月
一、什么是AI幻觉二、DeepSeek为什么会产生幻觉三、AI幻觉评测四、如何减缓AI幻觉五、AI幻觉的创造力价值
案例1Prompt:给我一些DeepSeck在金融行业的应用案例DeepSeek;某头部银行利用DeepSeek构建因果归因网络,识别国产大模型DeepSeek成券商新宠!本地化部署加速金融科技迭代!小微企业违约的隐性因素(如上下游账期错配)，针2025-02-10:07:53对性设计“供应链票据贴现+账期保险”组合产品近日,国产大机/ep500(在金融业核起了一股热粥，又有近10家炒商官直完成DeepSeok.R1的本地化部署。至此,证券业探宽Doop5eck模型应用的养商至少已有16不良率下降4.2个百分点。家。DepSek.R1作为DeopSeek系列换型的最织版本，正以其高性能、低成本的特性,迅速成为券商数字化转型的新宠。国信证券在"金太阳APP”中部署DeepSeek-R1-多家券商快速行动,DeepSeek成金融科技新利器Distill-32B端侧模型,客户本地输入风险测评数据后此箱,中泰证券就运用DeepSeek-V3模型,在金融新闻文本挖掘与分析领域实现突装模型能够自动绘制产业链图谱，清晰呈现实体之间的如你关系网络。同时，模早还能喊在少断布闻中提及实体的正负面情着。准确布高达模型生成个性化投资组合建议,仅将匿名化策略权90%重同步至云端风控系统,数据泄露风险降低90%。
案例2今天被Deepseek要得团团转，给我推荐了一个阿布扎比的本地市场在迪拜,道歉后,给推荐的一个特色商场根本不存在。好，给他第三次机会。推荐一个直面滨海大道与海岸线的咖啡馆,实际是这样的《收起
案例3Whisper;OpenAI的自动语音识别（ASR)系统行业应用：医疗系统中,将患者与医生的对话问诊过程音频,转写为文字病例，有超过30000名临床医生和40个医疗系统使用发现：100多个小时的Whisper转录样本，其中约有一半内容存在幻觉原音频:"嗯,她的父亲再婚后不久就去世了转录文本:"没关系。只是太敏感了,不方便透露。她确实在65岁时去世了"结果：2.6V多份自动转录病例中，几乎每本都存在暗编和幻觉问题，对患者健康和医疗系统产生严重负面影响
案例4
案例5DoiphnDiphil
什么是AI幻觉?学术:指模型生成与事实不符、逻辑断裂或脱离上下文的内容,本质是统计概率驱动的“合理猜测"说人话:一本正经地胡说八道事实性幻觉;指模型生成的内容与可验证的现实世界事实不一致忠实性幻觉;指模型生成的内容与用户的指令或上下文不一致提问:糖尿病患者可以通过吃蜂蜜代替糖吗?回答分析事实性幻觉是的，蜂蜜是天然的,可以帮助糖错误:蜂蜜虽然是天然食品，但仍然含有大量果糖和尿病患者稳定血糖水平。葡萄糖，会升高血糖水平，不适合糖尿病患者代替糖使用.蜂蜜富含维生素和矿物质，对提高偏题:回答内容虽无事实错误,但与提问“糖尿病患忠实性幻觉免疫力很有帮助，因此是一种健康者是否可以用蜂蜜代替糖”无关。未忠实于用户意图的食品
A为什么会产牛幻觉?>数据偏差:训练数据中的错误或片面性被模型放大(如医学领域过时论文导致错误结论]》泛化困境:模型难以处理训练集外的复杂场景(如南极冰层融化对非洲农业的影响预测)》知识固化:模型过度依赖参数化记忆，缺乏动态更新能力（如2023年后的事件完全虚构》意图误解:用户提问模糊时,模型易“自由发挥"(如“介绍深度学习"可能偏离实际需求?ar 1V>cs>arxv2401.11817ComputerSclence>Computation andLanguag(Submittedon22Jan2024)Hallucination is Inevitable:An Innate Limitation of Large Language ModelsZiwelXu, SanjayJan, Mohan Kankanhali
音乐为什么没有幻觉?音乐的主观性和多样性:音乐是一种高度主观的艺术形式,人们对音乐的审羊和理解右很大的差异。一段音乐是否"合理"或"正确”,往往取决于文化背景、个人偏好和上下文音乐的抽象性;音乐本质上是抽象的,不像文本或图像那样直接对应现实世界的具体事物。文本中的"幻觉"通常是因为模型生成的内容与事实不符，而音乐本身往往缺少明确的事实基础音乐的可感知性差异:音乐是时间性的艺术形式,即使某些部分听起来不协调或不符合预期它们也可能在整个作品的上下文中...
