不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
为什么抖音直播大半都是女主播在擦边？
自研项目，PHP用什么框架最好？
如何看待小米yu7 3分钟大定破20w辆?
如何看待演员夏雨称「真正玩极限运动的都是胆小的人」，如何理解这一观点？
SwiftUI 是不是一个败笔？
如何看待武汉大学建筑学大一新生跑路只剩 4 个？什么原因？目前建筑专业就业前景如何？
养乌龟只养一只，它觉得会孤独吗？
LCD党真的只是少部分人吗？
为什么都 2025 年了，还有那么多人宁可双持，也不愿意放弃安卓或非安卓手机？
男朋友说我穿衣服太开放，难道好身材不应该显示出来吗？
电话：
座机：
邮箱：
地址：
