第八课 BERT

transformer

在这里插入图片描述

self-attention(自注意力机制)

机制:

  1. 输入经过编码后得到向量
  2. 想得到当前词语上下文的关系(可以当做是甲醛)
  3. 构建三个矩阵分别来查询当前词跟其他词的关系以及特征向量表达

(Queries, Keys, Values)

Queries:要去查询的

Keys:等着被查的

Values:实际的特征信息

qk的内积表示有多匹配,最终的得分值经过softmac就是最终上下文结果
s o f t m a x ( Q × K T d k ) × V = Z softmax(\frac{Q\times K^T}{\sqrt{d_k}})\times V=Z softmax(dk Q×KT)×V=Z
整体计算流程:

  1. 每个词的Q会跟每一个K计算得分
  2. softmax后就得到整个加权结果
  3. 此时每个词看到的不只是它前面的序列,而是整个序列
  4. 同一时间计算出所有词的表示结果(矩阵乘法)
multi-head

机制

  1. 通过不同的head得到多个特征表达 ( q i , k i , v i ) (q_i,k_i,v_i) (qi,ki,vi),一般是8组
  2. 将所有的特拼接在一起
  3. 可以通过再一层全连接再降维

结果

  1. 不同的注意力结果
  2. 得到的特征向量表达也不相同
其余操作
  1. 堆叠多层self-attention
  2. 位置编码(希望模型能对位置有额外的认识)

input = embedding + position emcoddding

  1. 以层为单位的归一化(LayerNorm),往常的都是BatchNorm以Batch为单位归一化,但是此训练一般Batch-size = 1
  2. 使用基本的残差连接方式作为连接方式
Decoder(解码器)
  1. Attention计算不同(Decoder提供Q,Encoder提供K,V
  2. 加入了Mask机制(对未来的预测进行Mask,不能利用)
整体
  1. self-attention
  2. Multi-Head
  3. 多层堆叠,位置编码
  4. 并行加速训练

BERT

使用transformer的encoder端

训练BERT(有很多方法)

方法一:随机mask句子中的词汇,预测被mask的是什么

方法二:预测两个句子是否应该连在一起

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值