【深度学习】【NLP】NLP课件整理 第六章：Transformer架构，编码器，解码器，多头注意力机制，掩码张量，全部代码实现及分析

文档：6.1 Transformer背景介绍.note

1. Transformer的诞生
2. Transformer的优势
3. Transformer的市场

文档：6.2.1 认识Transformer架构.note

1. 了解Transformer模型的作用.
2. 了解Transformer总体架构图中各个组成部分的名称.

文档：6.2.2 输入部分实现.note

1. 了解文本嵌入层和位置编码的作用.
2. 掌握文本嵌入层和位置编码的实现过程.

文档：6.2.3 编码器部分实现.note

1. 了解编码器中各个组成部分的作用.
2. 掌握编码器中各个组成部分的实现过程.

文档：6.2.4 解码器部分实现.note

1. 了解解码器中各个组成部分的作用.
2. 掌握解码器中各个组成部分的实现过程.

文档：6.2.5 输出部分实现.note

1. 了解线性层和softmax的作用.
2. 掌握线性层和softmax的实现过程.

文档：6.2.6 模型构建.note

1. 掌握编码器-解码器结构的实现过程.
2. 掌握Transformer模型的构建过程.

文档：6.2.7 模型基本测试运行.note

1. 了解Transformer模型基本测试的copy任务.
2. 掌握实现copy任务的四步曲.

文档：6.3.1 使用Transformer构建语言模型

1. 了解有关语言模型的知识.
2. 掌握使用Transformer构建语言模型的实现过程.