超级会员免费看
这篇博客回顾了Vision Transformer的工作原理，解释了如何将图像转化为适合Transformer的格式。文章深入探讨了注意力机制，包括单头注意力和多头注意力，强调了其在解决序列模型中的优势。此外，还介绍了如何在视觉任务中应用注意力机制，特别是在计算Attention时的Scale和Softmax过程。
课程三学习笔记：视觉问题中的注意力机制
1. Vision Transformer回顾
图像只有变为Seq2eq格式，才能输入到Transformer中去。因此，lmage ——Patch(Image Token)——Patch Embeddings
Embedding定义：从低维到高维的映射。
2. Attention注意力机制
《 Attention is All You need 》论文：“在单个序列中使用不同位置的注意力，用于实现该序列的表征方法”。
Attention是用来学向量表征的。
Eg：it不仅仅用自身的向量表示，还要用其他不同位置的向量表示。每一个单词都可以看到该句话中不同位置的信息（不光看自己，还要看别人）。通过Attention机制，模型可以学到语义信息，并且判断单词是什么意思。
Original RNN存在的问题：每一个输入都对应一个输出，导致输入输出长度必须一致。
为了解决Many to many的问题，提出RNN Seq2seq：
订阅专栏 解锁全文
1212
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
