查看: 390|回复: 3

[聊技术] 有没有大佬教一下

[复制链接]

6

主题

19

回帖

51

积分

一年会员

Rank: 2

积分
51
发表于 2024-12-28 21:44:27 | 显示全部楼层 |阅读模式
虽然是作业但周围同学问了也不会做,gpt只有公式
回复

使用道具 举报

10

主题

12

回帖

51

积分

注册会员

Rank: 2

积分
51
发表于 2024-12-28 21:44:43 | 显示全部楼层
有没有大佬教一下-1.jpg

有没有大佬教一下-2.jpg
回复 支持 反对

使用道具 举报

7

主题

14

回帖

43

积分

一年会员

Rank: 2

积分
43
发表于 2024-12-28 21:45:35 | 显示全部楼层
这个过程很多书没讲清楚,qKV都一样维度,行列形状,好象行由tokens最大量决定,列由嵌入维度除以头数决定,softmax此处是对tokens最大量方阵形状的行内各值求,之后此softmax矩阵再矩阵乘V,再多头连一块终得与嵌入维度一致的行列形状而保持形状不变性。
回复 支持 反对

使用道具 举报

3

主题

22

回帖

47

积分

一年会员

Rank: 2

积分
47
发表于 2025-1-8 11:40:46 来自手机 | 显示全部楼层
路过,我是来打酱油的!
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

特惠

限量优惠活动

正在火热进行

站长

添加站长微信

领取新人礼包

下载

便携运营智库

立即下载APP

工具

运营导航

工具推荐

帮助

帮助中心

常见问题

分销

50%直推收益

30%间推分成

AI

智能对话

办公助手

顶部