Transformer原理与代码精讲（PyTorch）

课程链接：Transformer原理与代码精讲（PyTorch）-1-课程介绍-白勇的在线视频教程-CSDN程序员研修院

Transformer发轫于NLP（自然语言处理），并跨界应用到CV（计算机视觉）领域。目前已成为深度学习的新范式，影响力和应用前景巨大。

本课程对Transformer的原理和PyTorch代码进行精讲，来帮助大家掌握其详细原理和具体实现。

原理精讲部分包括：注意力机制和自注意力机制、Transformer的架构概述、Encoder的多头注意力（Multi-Head Attention）、Encoder的位置编码（Positional Encoding）、残差链接、层规范化（Layer Normalization）、FFN（Feed Forward Network）、Transformer的训练及性能、Transformer的机器翻译工作流程。

代码精讲部分使用Jupyter Notebook对Transformer的PyTorch代码进行逐行解读，包括：安装PyTorch、Transformer的Encoder代码解读、Transformer的Decoder代码解读、Transformer的超参设置代码解读、Transformer的训练示例（人为随机数据）代码解读、Transformer的训练示例(德语-英语机器翻译)代码解读。

相关课程：

《Transformer原理与代码精讲（PyTorch）》https://edu.csdn.net/course/detail/36697

《Transformer原理与代码精讲（TensorFlow）》https://edu.csdn.net/course/detail/36699

《ViT（Vision Transformer）原理与代码精讲》https://edu.csdn.net/course/detail/36719

《DETR原理与代码精讲》https://edu.csdn.net/course/detail/36768

《Swin Transformer实战目标检测：训练自己的数据集》https://edu.csdn.net/course/detail/36585

《Swin Transformer实战实例分割：训练自己的数据集》Swin Transformer实战实例分割：训练自己的数据集--计算机视觉视频教程-人工智能-CSDN程序员研修院

《Swin Transformer原理与代码精讲》 https://download.csdn.net/course/detail/37045