【李宏毅机器学习】注意力机制

INGg__

已于 2023-08-21 21:52:35 修改

阅读量797

点赞数 1

分类专栏：动手学习深度学习文章标签：机器学习人工智能

于 2023-08-21 21:47:45 首次发布

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/INGg__/article/details/132417419

版权

动手学习深度学习专栏收录该内容

10 篇文章 1 订阅

订阅专栏

输出

我们会遇到不同的任务，针对输出的不一样，我们对任务进行划分

给多少输出多少

在这里插入图片描述

给一堆向量，输出一个label，比如说情感分析

在这里插入图片描述

还有一种任务是由机器决定的要输出多少个label，seq2seq的任务就是这种，翻译也是

在这里插入图片描述

Sequence Labeling

如果要考虑时序信息，每次可以选取前后固定长度的信息输入到fc层，但是运算量很大需要的参数也很多

新的方法能考虑整个input sequence

在这里插入图片描述

fc专注处理某一个位置的信息，self-attention来考虑整个sequence的信息

模型细节

在这里插入图片描述

每个b都是考虑整个sequence来产生的

那么是如何产生的？

我们需要找到一些相关的向量来帮助决定 $a^1$ ，用 $\alpha$ 来表示相关的重要性

在这里插入图片描述

那么怎么决定 $\alpha$ 呢，有两种方式

在这里插入图片描述

用 $a^1$ 分别与其他的向量分别进行计算相关性

在这里插入图片描述

一般而言，也会跟自己计算相关性

在这里插入图片描述

然后接一个softmax

在这里插入图片描述

根据attention的分数，也就是计算出来的每一个 $\alpha$ 值来抽取重要的信息

在这里插入图片描述

转换为矩阵运算形式：

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

多头注意力

多头注意力是自注意力的一个进阶的版本

多头注意力的关键在于Q是有不同的多个进行询问的，这样带来的好处与卷积也比较类似，我们采用不同的Q来负责不同种类的相关性

计算方式上，与自注意力机制比较类似，每个计算过程中只关注对应的（比如计算1的时候只把1拿出来）

在这里插入图片描述

在这里插入图片描述

位置编码

有时位置的距离也比较重要，我们需要存储位置的信息

在这里插入图片描述

For Image

横着来看做一个vector，众多vector作为输入，输入进model

在这里插入图片描述

关注

1
点赞
踩
1

收藏

觉得还不错? 一键收藏
0
评论
【李宏毅机器学习】注意力机制

我们会遇到不同的任务，针对输出的不一样，我们对任务进行划分给多少输出多少给一堆向量，输出一个label，比如说情感分析还有一种任务是由机器决定的要输出多少个label，seq2seq的任务就是这种，翻译也是。
复制链接

扫一扫

专栏目录

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。