查看: 92|回复: 1

[聊技术] AI幻觉爆发、训练数据遭“投毒”,DeepSeek暴跌背后的真相远比流

[复制链接]

5

主题

22

回帖

53

积分

注册会员

Rank: 2

积分
53
发表于 昨天 17:31 | 显示全部楼层 |阅读模式
DeepSeek的流量正在快速下滑。但比用户减少更危险的,是它背后的技术危机——AI幻觉正在全面爆发,数据质量成为最大噩梦。
幻觉体验太严重!DeepSeek使用率从年初50%暴跌至3%
这家大模型公司年初用户使用率达7.5%,如今跌至3%;APP月活从1.94亿跌到1.69亿。很多人以为是产品不够吸引人,但真正的原因在于:它的下一代模型R2,迟迟无法发布。
原因不是不想做,而是做不出来。DeepSeek内部人士透露,R2需要更高质量的数据来训练,但当前国内公开语料质量普遍较低,模型一训练就幻觉频发,甚至编造“论文”“政策文件”“内部消息”来糊弄用户。
与此同时,GPU资源紧张,进一步放大了训练难度。而模型输出中的“幻觉”越来越难以控制——甚至在学术、法律、医疗等领域开始造成实质性误导。
所谓AI幻觉,不是简单的“说错话”,而是一种由算法补全机制导致的系统性问题:当面对未知或模糊输入时,模型宁愿编造一个听起来像真的答案,也不愿承认“我不知道”。
《中国青年报》调查显示,97%的大学生遭遇过AI错误输出,55%遭遇文献推荐混乱。在AI模型的“服务本能”驱使下,它们正变成一本正经地胡说八道的“编故事机器”。
更可怕的是,这些错误会在模型之间传播、放大。当前大模型广泛使用互联网上已有数据互相训练,一旦“毒素”进入生态,未来AI之间将彼此传染。这种“数据投毒”,正在成为全球AI安全的最大隐患。
Meta近期砸下143亿美元,专门收购做数据清洗的公司;谷歌则重建数据审查机制。行业巨头都已意识到:训练数据就是AI的“食物链根部”,一旦污染,就会全盘崩塌。
DeepSeek也正在努力修补:上线以来,产品优化不断,服务稳定率超99%,APP功能迭代25次,甚至开始招聘懂技术又懂用户体验的人来做产品。但在幻觉问题未解决、智能体未上线之前,一切都像是“打补丁”。
梁文锋坚持AGI愿景,强调“不是应用爆发期”,而是技术夯实阶段。(消息来自:百家号)但外部环境正在加速:OpenAI分拆产品负责人,Kimi和豆包推出深度Agent,MiniMax、智谱准备上市,整个行业进入商业化竞速。
在这场竞赛中,谁拥有干净、真实的数据,并具备决策的可解释性,谁才能造出值得信赖的AI。光有技术理想,还不够。
幻觉不止是Bug,它正成为整个AI行业的警报器。DeepSeek的技术路线、产品策略和数据系统,将决定它是迈入AI黄金时代的参与者,还是被遗忘的先行者。
回复

使用道具 举报

7

主题

15

回帖

50

积分

一年会员

Rank: 2

积分
50
发表于 昨天 17:56 | 显示全部楼层
看起来好像不错的样子
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

特惠

限量优惠活动

正在火热进行

站长

添加站长微信

领取新人礼包

下载

便携运营智库

立即下载APP

工具

运营导航

工具推荐

帮助

帮助中心

常见问题

分销

50%直推收益

30%间推分成

AI

智能对话

办公助手

顶部