【Transformer】Introduction to Transformer

已于 2024-07-09 12:14:52 修改
阅读量298 收藏 9
点赞数 4
分类专栏： CNN / Transformer 文章标签： transformer 深度学习 人工智能
于 2024-04-03 10:31:00 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/bryant_meng/article/details/126969350
版权

在这里插入图片描述

文章目录

Transformer从零详细解读(可能是你见过最通俗易懂的讲解) 学习笔记

1 概览

在这里插入图片描述
在这里插入图片描述
6（Nx） 个 encoder（结构上相同，参数独立训练不同）
6（Nx） 个 decoder（结构上相同，参数独立训练不同）
在这里插入图片描述
decoder 比 encoder 多了一个 mask

在这里插入图片描述

2 输入——embedding+位置编码

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
RNN 共享一套参数（U W V）

RNN 梯度消失，被近距离主导，远距离忽略不计

transformer 是并行化的，不是时序的，所以需要位置编码

在这里插入图片描述
偶 sin
奇 cos

在这里插入图片描述

在这里插入图片描述
绝对位置蕴含了相对位置信息

3 多头注意力

注意力机制
在这里插入图片描述
在这里插入图片描述
左上左下右上右下四个区域

点乘（一个向量在另一个向量上投影的长度，越大越相似）

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
多头，多套 W 参数，类比于卷积核的个数（输出特征图的通道数）

在这里插入图片描述

4 残差

在这里插入图片描述

5 Layer Normalization or Batch Normalization

在这里插入图片描述
BN 在 NLP 效果很差
在这里插入图片描述
默认同一行是同一特征

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
RNN 输入是动态的，不能有效的获取整个 bs 的均值和方差

在这里插入图片描述
我和今代表同样的语义信息（类比于体重）

LN 把“我爱xxxx” 所有词当成一个语义信息

在这里插入图片描述
feed forward 两层 fc

6 Decoder

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
预测的时候，看不到后续的单词，所以训练的时候要 mask 掉

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

附录-Swin TRM

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
输入输出维度没有变化


在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
window 的像素点做为 token

在这里插入图片描述
在这里插入图片描述

附录——生动形象的解释 QKV

Q K V

来自 【深度学习】如何理解attention中的Q,K,V？
在这里插入图片描述

在这里插入图片描述

这个数值就代表了“我想吃酸菜鱼”中“我”字对“我”字的注意力权重

在这里插入图片描述

就相当于用每个字的权重对每个字的特征进行加权求和

bryant_meng
关注
专栏目录
【人工智能】LLM 大型语言模型和 Transformer 架构简介
AI天才研究院
05-24 2万+
然而，传统的机器学习模型，例如神经网络，并不能天生理解输入的顺序。通过将位置编码纳入 Transformer 架构，GPT 可以更有效地理解句子中单词的顺序，并生成语法正确且语义有意义的输出。但是，模型只能理解数字，不能理解文本，因此需要将这些输入转换为称为“输入嵌入”的数字格式。作为初创公司的首席技术官，我每天都在讨论这项革命性的技术，因为围绕它的持续不断的嗡嗡声和炒作。这篇博文将探讨 LLM（大型语言模型）和转换器架构的基本概念，转换器架构是所有带有转换器的语言模型的构建块，包括 GPT。
Color-Transformer introduction
06-16
Color-Transformer introduction
Introduction to Graph Neural Networks.pdf
04-19
此外，研究者还在探索将GNN与其他深度学习模型（如Transformer）结合，以及在强化学习和多模态学习场景中的应用。 总的来说，图神经网络是一种强大的工具，它能够捕捉复杂的关系结构并进行有效的节点表示学习。随着...
神经网络简介A Brief Introduction to Neural Networks
11-15
- **自然语言处理**：使用RNN、Transformer等模型进行文本分类、情感分析、机器翻译等任务。 - **语音识别**：通过深度学习技术提高语音转文字的准确率。 - **推荐系统**：结合用户的历史行为数据预测用户的兴趣偏好...
Introduction to transformer magnetics
03-09
PULSE公司的G022参考文档，完整的描述了电感、变压器的等效电路，适用于高速设计的时候参考一下
深度学习·wandb
2301_80132162的博客
10-01 453
一个好用的可视化训练过程和调参工具，建议在深度学习中使用，语法来说更加方便。
深度学习：DCGAN
Landy_Jay的博客
10-01 557
CDGAN（Deep Convolutional Generative Adversarial Networks），是GAN（Generative Adversarial Networks）的一种变体，它特别使用了卷积神经网络（CNNs）作为生成器和判别器的构建模块。DCGAN使用全卷积网络结构代替传统的池化层和全连接层。在生成器中采用转置卷积（也称为分数步长卷积或反卷积）来逐步增加图像的空间维度。在判别器中使用卷积层来逐步减少空间维度并提取特征。
国创——基于分离表示的人脸图像生成技术
2301_80073593的博客
10-01 1063
根据用户的个性化需求，对分离得到的形状和纹理表示进行调整。- 在DFGA框架的几何形状生成模块中，根据输入数据（可能是经过预处理的图像特征等），使用特定的算法或模型生成人脸的几何形状。- 分离表示旨在将人脸图像分解为不同的组件，如几何形状（面部结构）、皮肤纹理（颜色、细节等）等表示形式。- 将生成的几何形状和皮肤纹理进行融合，得到最终的个性化人脸图像或者视频帧（如果是从视频序列输入）。- 定义DFGA框架中的各个模块，如数据加载模块、几何形状生成模块、皮肤纹理生成模块、融合模块等。
基于Python的自然语言处理系列（19）：基于LSTM的语言模型实现
不想宅的冷同学
09-29 945
在本篇博文中，我们实现了一个基于LSTM的语言模型，探讨了其在自然语言处理中的重要性。通过对WikiText数据集的训练，我们了解了如何进行数据预处理、模型构建以及训练与评估过程。这一模型为理解语言生成打下了基础，也展示了如何使用PyTorch进行实际应用。随着对LSTM语言模型的深入理解，我们将在下一篇博文中转向更先进的Transformer模型及其在语言建模中的应用，期待与大家一同探讨Transformer如何提升自然语言处理的能力，并掌握束搜索等高效解码技术。希望继续激发大家对这一领域的热情与探索！
YOLO11改进|注意力机制篇|引入MLCA轻量级注意力机制
A1983Z的博客
10-01 1512
YOLO11中添加MLCA轻量级注意力机制
深度学习：基于MindSpore实现ResNet50中药分拣
最新发布
Landy_Jay的博客
10-07 731
ResNet（Residual Network）是一种深度神经网络架构，由微软研究院的Kaiming He等人在2015年提出，并且在ILSVRC 2015竞赛中取得了很好的成绩。ResNet主要解决了随着网络深度增加而出现的退化问题，即当网络变得非常深时，训练误差和验证误差可能会开始上升，这并不是因为过拟合，而是由于深层网络难以优化。ResNet的核心思想是引入了残差学习框架来简化许多层网络的训练。通过构建“跳跃连接”或称“捷径连接”，允许一层直接与更深层相连接。
基于深度学习的持续的知识积累与转移
weixin_42605076的博客
10-01 733
基于深度学习的持续知识积累与转移是指利用深度学习技术在多个任务或领域中有效地获取、更新和应用知识。这一过程能够提高模型在新任务上的性能，同时减少对大量标注数据的依赖。
卷积神经网络（Convolutional Neural Networks, CNN）
qq_34376868的博客
10-02 1456
卷积神经网络（Convolutional Neural Networks, CNN）是深度学习领域中用于处理具有网格结构的输入（如图像和视频）的神经网络模型。
深度学习中的结构化概率模型 - 学习依赖性的关系篇
绎岚科技的博客
10-02 902
在深度学习的探索之旅中，结构化概率模型以其独特的能力，在学习数据间复杂依赖关系方面展现出非凡的潜力。传统模型往往难以有效捕捉变量间错综复杂的相互作用，而结构化概率模型则通过引入结构化的先验知识，使得模型能够深入理解并建模这些依赖关系。这种能力对于处理现实世界中的复杂问题至关重要，如自然语言中的语义关联、图像中的空间布局、以及时间序列数据中的动态变化等。通过结构化建模，深度学习系统能够更准确地理解数据背后的规律，从而做出更加精准和可靠的预测与决策。
深度学习---------------------------深度循环神经网络
Einstein·Jun
10-01 416
深度循环神经网络使用多个隐藏层来获得更多的非线性性。
李宏毅深度学习-自注意力机制
m0_51448653的博客
10-06 900
在图像识别的时候，假设输入的图像大小都是一样的。但如果问题变得复杂，如图6.2所示，输入是一组向量，并且输入的向量的数量是会改变的，即每次模型输入的序列长度都不一样，这个时候应该要怎么处理呢？我们通过具体的例子来讲解处理方法。第一个例子是，假设网络的输入是一个句子，每一个句子的长度都不一样（每个句子里面词汇的数量都不一样）。如果把一个句子里面的每一个词汇都描述成一个向量，用向量来表示，模型的输入就是一个向量序列，而且该向量序列的大小每次都不一样（句子的长度不一样，向量序列的大小就不一样）。
【PyTorch】循环神经网络
Glass_Gun的博客
09-29 694
神经网络。
samout游跨越一次
东方佑
10-04 918
这段代码定义了一个基于PyTorch的神经网络模型，用于序列到序列的转换任务。
机器学习和深度学习的区别
dhdjjfhdghh的博客
09-26 1861
深度学习是机器学习的一个子集，它基于人工神经网络的概念，特别是那些具有多个非线性变换的层（即深度）。深度学习模型能够自动从原始数据中提取复杂的特征，而无需人为干预。层次结构：深度学习模型由多个层次的神经元组成，每一层都对输入数据进行转换和抽象，从而捕捉数据的复杂特征。自动特征提取：与传统机器学习方法相比，深度学习能够自动从原始数据中学习特征，减少了对人工特征工程的依赖。计算密集型：深度学习模型通常需要大量的计算资源，包括高性能的GPU，以训练大规模的数据集和复杂的模型结构。代表性模型。
深度学习详解：Transformer与GNN的最新进展
第1章"Introduction"介绍了深度学习的背景和重要性，强调了其在机器学习领域的核心地位，以及与传统统计方法的区别。章节通过实际案例，如线性回归，展示了监督学习的基础，包括模型的构建、损失函数的选择和训练...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值