![](https://img-blog.csdnimg.cn/20201014180756923.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
zhyongquan
微信公众号:汽车软件技术
展开
-
跟我学神经网络1-前向传播
欢迎关注《汽车软件技术》公众号,回复关键字获取资料。1. 关键词神经网络,激活函数,多层感知器,前向传播2. 导读本文是《跟我学神经网络》系列文章的第1篇,介绍神经网络的结构和正向传播过程。《跟我学神经网络》不在大而全,而是给读者一个更感性的认识,特别是一些很难理解的专有名词。当你有兴趣,想要进一步学习,可以参考文末的扩展阅读部分。3. 神经网络3.1 来源神经网络灵感来自于生物...原创 2019-01-07 09:44:27 · 1532 阅读 · 0 评论 -
跟我学神经网络2-反向传播
1. 关键词梯度下降,反向传播2. 导读本文介绍了反向传播的数学基础,及其过程。3. 数学基础3.1 梯度下降神经网络求解的目的,是使输出值更接近于真实值,这就转化成一个求最优解或最小值的过程,最常用的就是梯度下降法。从山顶沿负梯度方向(导数的反方向),一步步走到山底。上图也演示了梯度下降受到起点的影响,得到的是局部最优解,并不一定是全局最优解。3.2 链式法则求解梯度就是求导...原创 2019-01-28 15:42:56 · 363 阅读 · 0 评论 -
跟我学神经网络3-卷积神经网络
文章目录1. 关键词2. 引言3. 结构4. 卷积4.1 核函数4.2 填充5. 线性整流6. 池化7. 降维采样8. 例子9. 附录9.1 中英文对照表9.2 扩展阅读欢迎关注《汽车软件技术》公众号,回复关键字获取资料。1. 关键词卷积,ReLU,池化,PyTorch,Google Colab2. 引言前两章已经学习率基本的神经网络及其求解方法,但神经网络从研究走向实用,还需要进一步...原创 2019-03-03 14:25:42 · 581 阅读 · 0 评论 -
跟我学神经网络4-循环神经网络
1. 关键词BPTT2. 简介人们在开始思考时,不是每次都从零开始。比如你读这篇文章,因为你曾经看过相似的文字,所以也能理解这里的文字。你不是从头开始学,你的知识是逐渐积累的。在多层感知器中隐含层之间依次次连接。当把隐含层折叠起来,就可以得到一个递归网络。如下图:公式表示:st=tanh(Uxt+Wst−1)ot=softmax(Vst)s_t=tanh(Ux_t+Ws_{t-1}...原创 2019-03-30 22:41:47 · 359 阅读 · 0 评论