弄懂Transformer Layer 和Transformer Block的关系后,豁然开朗

一篇论文引发的讨论:
Q:Transformer Layer 和Transformer Block是什么意思?
A: Transformer Layer表示Transformer层,Transformer Block表示Transformer块。
Q:我不是来学英语的,Transformer Layer 和Transformer Block是什么,有什么区别,这张网络图里的哪个部分是Transformer Layer 和Transformer Block?
A: 每个Encoder Block就是一个Transformer block,4个Encoder block 组成一个Transformer Layer。(按照block和layer一样的说法,这里没毛病吧,一百个人一百个哈姆雷特?)
GLPDepth
Q:你确定吗?嗯?
A: 没问题啊。
Q:再给你一次机会,Transformer Layer 和Transformer Block是什么,有什么区别?
A: 静默-我搜一下。
Q:别搜了,你看群里我发的图,再解释一下,到底什么是Transformer Layer ,什么是Transformer Block,有什么区别?
A:Transformer block就是由自注意力、LN、多层感知器、LN组成;Transformer Layer就是这些block的组合?
Q:你确定?
A:Transformer block和Transformer Layer本来就一个概念。
Q:是吧,Transformer block和Transformer Layer没有区别。我看你对Transformer的理解都一团糊浆了。
A:(静默-我???)那我不管说Transformer block还是Transformer Layer都没有问题啊?
Q:你根本就没有理解Transformer。
A:(静默-我???那我不说了)那您觉得Transformer block和Transformer Layer的区别在哪里?
Q:Transformer block和Transformer Layer是一个概念,只不过在内部操作的时候,我们会把这个叫做Transformer block,在外部操作时,我们称之为Transformer Layer,因为外部来看是多层感知器,以层称呼。
OS:这是约定俗成,还是官方文件?我不理解,直接说出来不好吗?我怎么会知道这么细呢?我不理解,看来我还菜…?
请添加图片描述
请添加图片描述
请添加图片描述

  • 17
    点赞
  • 48
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 3
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

MengYa_DreamZ

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值