![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
文章平均质量分 84
manbuyunduanLML
Study hard and make progress everyday!
展开
-
了解Transform基本原理
BERT是基于transformer的,在理解BERT之前,需要先了解transformer。Transformer就是将模型中lstm或者RNN结构替换成attention结构,这里就涉及了attention结构。1. attentionAttention由来的背景:RNN模型在解决序列问题上具有一定优势,图四中的左半部分展示了一个双向RNN结构,但通过RNN输出的序列数据不容平行化,例如,b4是融合了a1,a2,a3,a4的基础上才能够得出来,在得出b4之前,需要先计算出b1、b2、b3,这是原创 2022-03-21 17:05:23 · 2300 阅读 · 0 评论 -
了解卷积神经网络CNN
卷积神经网络(CNN)是深度学习中重要的代表算法之一,在计算机视觉、自然语言处理等人工智能领域具有重要运用。卷积Conv激活(eg:Relu函数)池化(Pooling)全连接...原创 2022-03-17 19:04:00 · 459 阅读 · 0 评论