![](https://img-blog.csdnimg.cn/20201014180756724.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
神经网络
文章平均质量分 69
Alice熹爱学习
做个终身学习者,持续迭代;公众号-极客X养成计划;简书-不会停的蜗牛
展开
-
手写,纯享版反向传播算法公式推导
每次推导公式时,感觉整个世界都安静了下来!学神经网络,那么它的训练利器:反向传播算法,不能不会哦是不是看到这样的公式就头晕脑胀?下面拆解开来,其实就是一个很简单的链索反应呀: 链式求导法则推荐阅读 历史技术博文链接汇总 也许可以找到你想要的原创 2017-05-01 11:51:52 · 1663 阅读 · 1 评论 -
常用激活函数比较
本文结构: 什么是激活函数 为什么要用 都有什么 sigmoid ,ReLU, softmax 的比较 如何选择 1. 什么是激活函数如下图,在神经元中,输入的 inputs 通过加权,求和后,还被作用了一个函数,这个函数就是激活函数 Activation Function。2. 为什么要用如果不用激励函数,每一层输出都是上层输入的线性函数,无论神经网络有多少层,输出都是输入的线性组合。 如果使用原创 2017-05-01 11:52:55 · 7244 阅读 · 2 评论 -
神经网络 之 感知器的概念和实现
本文结构: 什么是感知器 有什么用 代码实现 1. 什么是感知器如下图,这个神经网络中,每个圆圈都是一个神经元,神经元也叫做感知器只有一个隐藏层的神经网络就能拟合任何一个函数,但是它需要很多很多的神经元。 而深层网络用相对少的神经元就能拟合同样的函数,但是层数增加了,不太容易训练,需要大量的数据。 为了拟合一个函数,可以使用一个浅而宽的网络,也可以使用一个深而窄的网络,后者更节约资源。下图单挑出原创 2017-05-01 11:54:20 · 4502 阅读 · 0 评论 -
神经网络 之 线性单元
本文结构: 什么是线性单元 有什么用 代码实现 1. 什么是线性单元线性单元和感知器的区别就是在激活函数:感知器的 f 是阶越函数:线性单元的激活函数是线性的:所以线性模型的公式如下:2. 有什么用感知器存在一个问题,就是遇到线性不可分的数据时,就可能无法收敛,所以要使用一个可导的线性函数来替代阶跃函数,即线性单元,这样就会收敛到一个最佳的近似上。3. 代码实现1. 继承Perceptron,初始化原创 2017-05-01 11:54:46 · 2326 阅读 · 0 评论 -
什么是神经网络
本文结构: 什么是神经网络 什么是神经元 神经网络的计算和训练 代码实现 1. 什么是神经网络神经网络就是按照一定规则将多个神经元连接起来的网络例如全连接(full connected, FC)神经网络,它的规则包括: 有三种层:输入层,输出层,隐藏层。 同一层的神经元之间没有连接。 full connected的含义:第 N 层的每个神经元和第 N-1 层的所有神经元相连,第 N-1 层神经元的输原创 2017-05-01 11:55:42 · 1359 阅读 · 0 评论 -
神经网络的前世
小长假来听听 NN 的故事吧。本文参考:[这个地址不错](https://www.youtube.com/watch?v=E2Mt_7qked0&index=7&list=PLjJh1vlSEYgvGod9wWiydumYl8hOXixNu ),深入浅出讲深度学习的,推荐感兴趣的朋友看一下。当你听到深度学习,你想到了什么? Deep Learning is about Neural Netwo原创 2017-05-01 11:56:25 · 1382 阅读 · 0 评论 -
图解何为CNN
参考CNN - Convolutional Neural Networks是近些年在机器视觉领域很火的模型,最先由 Yan Lecun 提出。 如果想学细节可以看 Andrej Karpathy 的 cs231n 。How does it work?给一张图片,每个圆负责处理图片的一部分。 这些圆就组成了一个 filter。 filter 可以识别图片中是否存在指定的 pattern,以及在哪原创 2017-05-01 11:57:14 · 1137 阅读 · 0 评论 -
图解RNN
参考视频RNN-Recurrent Neural Networks本文结构:什么是 Recurrent Neural Networks ? Recurrent Neural Networks 的优点和应用? 训练 Recurrent Neural Networks 的问题? 如何解决? 何时用 RNN 何时用前馈网络呢?什么是 Recurrent Neural Networks ?普通的前馈原创 2017-05-01 11:58:58 · 2587 阅读 · 1 评论