本文是作者的深度学习学习笔记，通过图解方式深入理解深度学习概念，包括误差反向传播算法、权重调整、激活函数、CNN、多层神经网络、自编码器、数据增强、预处理等。同时探讨了深度学习的应用，如分类、回归和序列预测，以及无监督学习方法。还介绍了生成式深度学习和特定网络架构如密集连接网络、卷积网络和循环网络。
以下为本人通过图解深度学习里总结记录的笔记，如有误欢迎交流。
1.经过了两次起伏，第二次：线性不可分问题。
27。神经网络：使用图的意义进行编码这一思路，与神经和网络无关系，更应该叫做：分层表示学习，层级表示学习，深度可微模型，链式几何变化。
2.BP：误差反向传播算法。
▲W：权重调整值
η：学习率
3.权重调整值的计算就是对误差函数，激活函数以及连接权重分别进行求导的过程——chain rule
4.权重调整值趋近于0，所以无法调整连接权重。这就是误差反向传播算法中梯度消失导致无法调整连接权重问题。可通过调整η解决
5.激活函数：对输入信号进行线性或非线性变化。
6.池化层：减小卷积层的尺寸，从44到22
7.CNN：调整参数时，重要的是先调整卷积层的卷积核个数，激活函数的种类以及输入图像的预处理。
8.多层神经网络：模式识别
9.相互连接型网络：通过联想记忆去除输入数据中的噪声。
10.对比散度算法：近似算法，能够通过较少的迭代次数求出参数调整值。
11.深度信念网络：首先训练输入层和隐藏层之间的参数，把训练后得到的参数作为下一次的输入，再调整该层与下一个隐藏层之间的参数。
————在最顶层级联一个softmax层（他把一些输入映射为0-1之间的实数，并且归一化保证和为1，
最低0.47元/天 解锁文章
628
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
