2017年09月_changdejie

11月 10月 09月 04月 03月 02月 01月

原创一文理解深度学习，卷积神经网络，循环神经网络的脉络和原理4-循环神经网络，LSTM

循环神经网络很早就有了，其结构如下图。注意，这里其实只有一个神经网络结构。而不是7个。下图是为了方便表示，一次把7个时间的网络都画在上面。举个翻译的例子，I am hungry 比如在时间1，我们输入了 I，通过神经网络输出了对应的翻译我。然后时间2 ，输入了 am。这个时候网络的输入不但是 am，还有上次 I的隐层的输出。就相当于，网络不但考虑了当前输入，还考虑了以前的输入。

2017-09-27 17:34:44 4369

原创一文理解深度学习，卷积神经网络，循环神经网络的脉络和原理3-残差神经网络

虽然前文，提到的卷积神经网络，可以通过权值共享等手段对抗一定程度的梯度消失。但是实际发现一旦网络超过20层，效果会逐渐变差。梯度消失的现象仍然存在。何凯宁等人发明的深度残差网络可以解决更深网络的训练问题。深度残差网络的深度可以很轻松到底几百层，最新的数据表明。微软已经训练了一万多层的残差网络，这对解决一些特定的问题很有用。深度残差网络的基本组成如下。左边是一个正常的深度神

2017-09-27 15:13:48 1231

原创一文理解深度学习，卷积神经网络，循环神经网络的脉络和原理2-卷积神经网络

卷积神经网络，本质也是一种BP神经网络，但是采用了一些手段和技巧对抗梯度消失，卷积神经网络特别适用用于图像处理。详细参考下面的文章，已经写的很好。http://www.cnblogs.com/nsnow/p/4562308.html这里我们讲一个详细的例子：输入层 32*32.C1层: 5*5的卷积，使用6个卷积核。

2017-09-27 14:08:34 1816

原创一文理解深度学习，卷积神经网络，循环神经网络的脉络和原理1-深度学习基础

人体神经细胞工作原理。如下图。树突接受其他神经细胞的刺激。经过细胞核的处理通过轴突进行输出到其他神经细胞或者肌肉。这样传输就会形成一个通路。当我们持续学习一种事物的时候，就会持续的刺激该通路上的所有神经细胞。从而使得通路更加顺畅。形成记忆。从而加深学习。2 通过模拟上述过程。我们通过计算机模拟构建了一个神经单元。如下图。该单元也具有输入X(可以有多个)和输出Y(

2017-09-27 10:02:32 1790

转载玻尔兹曼机通俗理解

玻尔兹曼机特点： • Boltzmann机是第一个受统计力学启发的多层学习机，它是一类典型的随机神经网络属于反馈神经网络类型。其命名来源于Boltzmann在统计热力学中的早期工作和网络本身的动态分布行为。• 它在神经元状态变化中引入了统计概率，网络的平衡状态服从Boltzmann分布，网络运行机制基于模拟退火算法。• Boltzmann机结合多层前

2017-09-26 16:47:27 31317

原创 Hopfield神经网络的通俗理解

Hopfield网络和BP神经网络区别和联系。前馈型神经网络通过引入隐层及非线性转移函数（激活函数）使得网络具有复杂的非线性映射能力。前馈网络的输出仅由当前输入和权矩阵决定，而与网络先前的输出状态无关。而Hopfield神经网络，会把其输出反馈给输出，从而具有时序性的特定。因此需要通过微分方程或差分方程描述网络的动态数学模型。Hopfield神经网络

2017-09-26 16:10:48 16350 1

原创 maven安装第三方库到私服上面方法。

1 开发中经常会遇到，需要添加一个第三方库的情况。如果是每个开发成员都在本地安装的话，很不方便。最好是统一上传到本地私服中。这样开发成员就可以，添加一个依赖，自动从私服中下载。maven对于这种情况，提供了几种解决方案。一种是，通过 nexus上传添加。需要有管理员的写入权限。http://juvenshun.iteye.com/blog/349534 这篇文章介绍了这种方法。

2017-09-18 15:37:54 518