2016年05月_Marcovaldo

原创机器学习中使用的神经网络第十讲笔记

Geoffery Hinton教授的Neuron Networks for Machine Learning的第十讲介绍了如何combine模型，并进一步从实际应用的角度介绍了完全贝叶斯方法。Why it helps to combine models这一小节，我们讨论在做预测时为什么要结合许多模型。使用多个模型可以在拟合真正的规则和拟合样本错误之间做一个很好的折中。我们已经知道，当训练数据比较少时

2016-05-27 21:48:23 9873

原创机器学习中使用的神经网络第九讲笔记

Geoffery Hinton教授的Neuron Networks for Machine Learning的第八讲为可选部分，好像很难，这里就先跳过了，以后有用的时候再回来补。第九讲介绍了避免过拟合，提高模型的泛化能力。

2016-05-20 21:54:44 14367

原创机器学习中使用的神经网络第七讲笔记

Geoffery Hinton教授的*Neuron Networks for Machine Learning*的第六讲介绍了循环神经网络（recurrent neural network, RNN）和Long Short Term Memory。Modeling sequences: A brief overview在这一小节，我们将对应用于序列（sequences）的不同类型的模型做一个概括。我们从最简单的模型

2016-05-18 15:24:58 9449

原创机器学习中使用的神经网络第六讲笔记

Geoffery Hinton教授的Neuron Networks for Machine Learning的第六讲介绍了随机梯度下降法（SGD），并且介绍了加快学习速度的动量方法（the momentum method）、针对网络中每一个连接的自适应学习步长（adaptive learning rates for each connection）和RMSProp算法。这几个算法的难度很大，需要反复

2016-05-16 21:55:50 16739 1

原创机器学习中使用的神经网络第五讲笔记

Geoffery Hinton教授的Neuron Networks for Machine Learning的第五讲主要介绍物体识别问题的难点及克服这些难点的方法，重点介绍了数字识别和物体识别中使用的卷积网络。Why object recognition is difficult我们知道识别真实场景中的物体是很困难的，这一小节我们来介绍造成这些困难的一些东西。Segmentation: 在一个图像

2016-05-14 15:52:09 15303 2

原创机器学习中使用的神经网络第四讲笔记

Geoffery Hinton教授的Neuron Networks for Machine Learning的第四讲主要介绍如何使用back propagation算法来学习到词汇的特征表示。Learning to predict the next word接下来的几小节主要介绍如何使用back propagation算法来学习到词汇的特征表示。我们从一个很简单的例子开始，介绍使用back prop

2016-05-08 10:30:31 2829

原创机器学习中使用神经网络第三讲笔记

Geoffrey Hinton教授的Neuron Networks for Machine Learning的第三讲主要介绍了线性/逻辑神经网络和BackPropagation，下面是整理的笔记。Learning the weights of a linear neuron这一小节介绍线性神经网络的学习算法。线性神经网络很像感知机，但又有不同：在感知机中，权值向量总是越来越接近好的权值设定；在线性神

2016-05-05 11:50:20 6405

原创机器学习中使用的神经网络第二讲笔记

最近在Cousera上学习多伦多大学Geoffrey Hinton教授的Nerual Networks for Machine Learning，为保证学习效果，特整理了学习笔记，一方面加深理解，一方面试图将学到的东西讲清楚。这一讲主要介绍神经网络的结构和感知机。Types of nerual network architectures这一小节介绍了三种不同的神经网络结构。首先介绍向前反馈网络（fe

2016-05-04 17:05:51 7167 1

Marcovaldong的博客