当前位置:当前位置: 首页 >
为什么我还是无法理解transformer?
人气:发表时间:2025-06-25 13:10:17
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
同类文章排行
- 为什么各大 *** 出奇一致地设置了『摇一摇开屏广告』?如何关闭常用 *** 的这些广告?
- Rust 的设计缺陷是什么?
- 歼-20 在国际上到底是什么地位?
- 《三角洲行动》还能活多久?
- 伊朗这次会崩溃灭亡吗?
- 胸大的女孩会自卑 吗?
- 为什么欧美影视喜欢露点?
- 为什么会有人相信骗子的话去缅甸找高薪工作呢?
- 如何评价网易国产动作冒险单机新作《归唐》首支预告片?
- 华为Pura 80首销遇冷,是否说明消费者已经开始对麒麟芯片性能有所觉醒?
最新资讯文章
- 为什么抖音上的姑娘都那么好看,现实中我怎么一个也见不着?
- 如何评价人民网评关于集中整治违规吃喝的发文?
- PHP现在真的已经过时了吗?
- 导师给了1.4W要我给工作室买个主机,是整机还是自己配?
- 2025年6月了,深圳房价咋样?
- 为什么微软会允许中国有那么多盗版?
- 为什么各大 *** 出奇一致地设置了『摇一摇开屏广告』?如何关闭常用 *** 的这些广告?
- 写业务的话,go是不是垃圾?
- 有一个***约你出去,你会去吗?
- JetBrains 放弃 AppCode 是否是一个错误决定?
- 车评人陈震同学对小米su7的测评,大家是怎么看待的?
- 有哪些是你用上了mac才知道的事?
- 为什么各大 *** 出奇一致地设置了『摇一摇开屏广告』?如何关闭常用 *** 的这些广告?
- 网传厦门某国企研发部门要求每日考察后端 400 行,前端 1000 行代码量,如属实,这个考核合理吗?
- 你为什么对kotlin失去好感?
- 小米YU7从7月提前至6月底发布,是什么原因导致提前发布?
- 美国的医疗费用真的有这么贵吗?
- 为什么买了Switch后,却发现它并没有那么好玩?
- 为什么《歌手》不请周杰伦、陈奕迅、王菲、张学友、孙燕姿、梁静茹、王力宏、林俊杰当节目嘉宾?
- 大家的NAS都是24小时不关机吗?