深度学习算法
文章平均质量分 81
主要是较为基础的深度学习算法
崔中江
这个作者很懒,什么都没留下…
展开
-
深度学习基础篇之Transformer网络
Transformer的大名已经听过很久了,一直没有找到机会详细了解该模型的原理及架构,趁着这次要复习的机会把transformer的原理彻底搞懂。本文参考了沐神在B站的论文讲解以及一些其他人的transformer文章。原创 2023-08-29 21:36:28 · 215 阅读 · 0 评论 -
深度学习基础篇之长短记忆递归神经网络(LSTM)
在循环神经网络(RNN)模型中,我们总结了RNN模型的优缺点。由于RNN有梯度消失的问题,因此很难处理长序列的数据。于是有人对RNN做了改进,得到了RNN的特例LSTM(Long Short-Term Memory),它可以避免常规RNN的梯度消失问题,因此在工业界得到了广泛的应用。原创 2023-06-11 00:48:23 · 561 阅读 · 0 评论 -
深度学习基础篇之循环神经网络(RNN)
前面我们讲了DNN,以及DNN的特例CNN的模型及其前向反向传播算法,这些算法都是前向反馈的,模型的输出和模型本身没有关联。今天我们就讨论另一类模型间有反馈的神经网络:循环神经网络(Recurrent Neural Networks,以下简称RNN),它广泛的用于自然语言处理中的语音识别、手写识别及机器翻译等。原创 2023-06-10 22:48:03 · 517 阅读 · 0 评论 -
深度学习基础篇之卷积神经网络(CNN)
当然我们也可以灵活搭配各种结构,如卷积层+卷积层、卷积层+卷积层+池化层,这些在构建模型时没有限制。在若干卷积层+池化层后面是全连接层(Fully Connected Layer,简称FC),全连接层实际上就是DNN的结构,输出层采用的是Softmax层做图像的分类。从CNN的结构可以看出,CNN相对于DNN,比较特殊的就是卷积层和池化层,只要把卷积层和池化层的原理搞清楚,那么搞清楚CNN就很容易了。在卷积层后面是池化层(Pooling Layer),这也是CNN特有的网络结构,池化层是没有激活函数的。原创 2023-05-19 20:38:55 · 5407 阅读 · 0 评论 -
深度学习基础篇之深度神经网络(DNN)
神经网络不应该看做是一个算法,应该看做是一个特征挖掘方法。在实际的业界发展过程中,数据的作用往往大于模型,当我们把数据的隐藏特征提取出来之后,用很简单的模型也能预测的很好。神经网络模型由生物神经中得到启发。在生物神经元细胞中,神经突触接收到信号,经过接收并处理信号后判断信号的信息强弱,来做出不同神经电位变化反应。受此启发,科研人员设计出基础的神经网络模型结构,神经元模型(Neuron Model)。原创 2023-04-13 00:05:20 · 18072 阅读 · 1 评论