视觉Transformer学习记录

最新推荐文章于 2024-08-25 21:50:20 发布
最新推荐文章于 2024-08-25 21:50:20 发布
阅读量159 收藏 2
点赞数 3
分类专栏： 三维点云处理学习 文章标签： transformer 学习 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43583311/article/details/137492696
版权

此为Transformer学习记录，分享本人所找到的较好的课程、博客等供记录交流。

原始transformer用于NLP领域：1.从全局角度概括Transformer_哔哩哔哩_bilibili

看完视频后看：Transformer学习笔记一：Positional Encoding（位置编码） - 知乎 (zhihu.com)

此博主和视频解析思路一致，分块讲解其中各部。

视觉transformer: VIT ViT论文逐段精读【论文精读】_哔哩哔哩_bilibili

已经对其有了较为很好的了解。

挑选最新或最关注领域的模型参考此篇综述：最新综述！一文详解视觉Transformer在CV中的现状、趋势和未来方向（分类/检测/分割/多传感器融合） - 知乎 (zhihu.com)

Swin Transformer :Swin Transformer论文精读【论文精读】_哔哩哔哩_bilibili

语义分割TRM ：TransUNet segformer PVT 

木木要早睡
关注
  • 3
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
业界前沿技术：从零开始学视觉Transformer-学习笔记
段智华的博客
05-20 305
业界前沿技术：从零开始学视觉Transformer-学习笔记 目录 Transformer 整体架构Patch EmbeddingAdd Norm （BN and LN）Pre-Norm vs Post-NormClassification Token vs AvgPoolPosition EncodingVision Transformer 论文Vision Transformer 代码复现 Transformer 整体架构 Patch Embedding Self Attention：Scale
视觉Transformer原理与代码实例讲解
禅与计算机程序设计艺术
07-07 762
视觉Transformer原理与代码实例讲解 作者：禅与计算机程序设计艺术 / Zen and the Art of Computer Programming 关键词：视觉Transformer, 图像处理, 多尺度特征融合, 自注意力机制, 计算效率 1. 背景介
李宏毅深度学习Transformer笔记
m0_61803871的博客
12-11 1465
记录了李宏毅老师的Transformer课程的笔记。
计算机视觉中的Transformer
weixin_43600140的博客
03-08 1895
计算机视觉中的Transformer 序 自从2017年Attention Is All You Need论文，Transformer热度持续升高，因为其解决的是"seqence to sequence"属性的问题，所以先是在自然语言处理中席卷各类问题，其代表性工作为BERT。BERT截至今天在Github已有27.2k⭐，火的我没词了… 就好比约5年前，循环神经网络（RNN）先火遍NLP，随后又入侵CV。现在，Transformer也是在席卷了NLP的各类问题后，正在席卷CV的各类问题。前几天连GANs
Transformer学习笔记
行者无疆的博客
08-30 225
Transformer 1.整体流程   其中，Encoder的输入为一句话的embedding向量，输出为施加self-attention之后的特征向量；   Decoder中，self-attention的输入为译文的embedding向量，输出为施加self-attention之后的特征向量，其中第一个Decoder的self-attention中还需加入mask机制； Encoder-Decoder attention使用Encoder的输出特征向量计算KKK，VVV矩阵，使用译文的self-at
百度Paddle免费课程——从零开始学视觉Transformer（自己免费分享听课笔记，百度网盘链接哦）
Wangzx的博客
12-07 2149
！！！无需订阅专栏哦，自己总结的课程学习笔记的百度网盘链接：链接: https://pan.baidu.com/s/1Z9w9biipueLF1J-yg0rN6g 提取码: 4h44（十一次课的学习笔记，写在了这个专栏里。因为我直接用CSDN直接写的，后期有时间稍微空闲的时候，才导出的word和pdf格式。）
第6周学习笔记：Vision Transformer & Swin Transformer学习
usdkey的博客
08-19 530
该模型将Transformer结构直接应用到图像上，即将一张图像分割成多个patches，这些patches看作是NLP的tokens (words)，然后对每个patches做一系列linear embedding操作之后作为Transformer的input。
Freertos学习笔记
qq_45031559的博客
08-21 656
Freertos学习笔记
零基础学习人工智能—Python—Pytorch学习（六）
kiba518的博客
08-21 991
前言 本文主要讲神经网络的上半部分。 这篇文章开始有很多公式了，这些公式都很简单，但是如果是不经常在脑海里思考公式的人，那可能需要多花点时间做一下自我训练，个人感觉，也就几天时间，就能把自己感觉给调整出来。 习惯了公式看下面内容就会轻松很多，另外如果要深入学习人工智能，熟练的认知公式也是个必须的事情。 另外，我发现我前面文章写的有歧义的地方还是挺多，虽然，已经改了一部分，但，可能还有没发现的，大...
day38-栈和队列理论学习【python】
canGfly的博客
08-21 476
栈（Stack）: 使用 Python 的list实现。主要操作有pushpoppeek, 和is_empty。队列（Queue）: 使用实现。主要操作有enqueuedequeuepeek, 和is_empty。这两种数据结构可以通过这些操作灵活地处理和存储数据。在实际应用中，选择使用哪种数据结构取决于具体的需求和场景。ok了，就到这里叭～～～​​​。
Python3学习（一）
qq_54161774的博客
08-21 1280
python的基础语法
Golang学习笔记-Golang中的锁
最新发布
qq_24428851的博客
08-25 607
Go标准库的中的sync.Cond是一个条件变量，它可以让一系列的goroutine都在满足特定条件下时候被唤醒，每一个 sync.Cond 结构体在初始化时都需要传入一个互斥锁，我们可以通过下面的例子了解它的使用方法。因为请求的哈希在业务上一般表示相同的请求，所以上述代码使用它作为请求的键。这个是Go语言的扩展包中提供的另外一个信号量，它能够在一个服务中抑制对下游的多次重复请求，比如在redis的缓存雪崩中，能够限制对同一个 Key 的多次重复请求，减少对下游的瞬时流量。上述两个加起来，只占用8个字节。
先从路径优化开始学习FastPlanner之B样条曲线平滑路径（一）：从拉格朗日插值到B样条曲线
qq_51013517的博客
08-25 701
B样条学习整理，易错点和关键点。我会列出学习他人的博客，但我不涉及具体推导，原理讲解，旨在于理解必须概念后写代码出效果和使用。
你是如何克服编程学习中的挫折感的？
刘念卿的博客
08-24 733
记得有一次，我在一个项目中遇到了一个顽固的Bug，连续几天都无法解决，感觉自己被困在了Bug的迷宫中。同时，在实践过程中，定期进行反思，思考哪些方法有效，哪些步骤可以改进，有助于不断提高编程水平，减少挫折感。例如，在解决一个难题之后，花点时间总结成功的经验和过程中学到的新知识，能够增强自信心并为未来的挑战做好准备。但后来，我决定从最基本的概念入手，逐步理解算法的每一个步骤，并尝试用自己的语言解释每个环节。每一次的挑战都是一次成长的机会，通过不断尝试和坚持，你将发现编程学习的乐趣，并在这个过程中不断进步。
【鸿蒙学习】HarmonyOS应用开发者高级认证 - 一次开发，多端部署
一个不断前行的程序者
08-21 1293
HarmonyOS 系统面向多终端提供了“一次开发，多端部署”（后文中简称为“一多”）的能力，让开发者可以基于一种设计，高效构建多端可运行的应用。定义：一套代码工程，一次开发上架，多端按需部署。目标：支撑开发者快速高效的开发支持多种终端设备形态的应用，实现对不同设备兼容的同时，提供跨设备的流转、迁移和协同的分布式体验。
如何高效记录并整理编程学习笔记？
爱敲代码的卡拉米的博客
08-23 235
在编程学习的海洋中，高效的笔记记录和整理方法就像一张珍贵的航海图，能够帮助我们在浩瀚的知识中找到方向。如何建立一个既能快速记录又易于回顾的笔记系统？如何在繁忙的学习中保持笔记的条理性？让我们一起探讨如何打造属于自己的编程学习“知识宝库”!提示：讨论如何将笔记与编程实践相结合，以及如何设计有效的复习策略，确保知识的长期记忆。提示：探讨如何设计一个清晰、有逻辑的笔记结构，包括如何分类、标签化、建立知识关联等。提示：介绍适合编程学习的各类笔记工具，分析它们的优缺点及适用场景。方向一：笔记工具选择。
视觉transformer发展史
08-17
综上所述，视觉Transformer在计算机视觉领域的发展经历了从ViT到Swin Transformers的转变，并且还有其他Transformer模型得到了广泛的关注和研究。<span class="em">1</span><span class="em">2</span><span class=...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

木木要早睡

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值