2016年01月_蜗牛一步一步往上爬

12月 10月 09月 08月 07月 06月 05月 04月 03月 02月 01月

原创 Neural Networks and Deep Learning学习笔记ch6 - 深度学习

在上一章节中讨论了为什么深度神经网络网络会很难训练。这一节就谈谈是如何克服那些困难的，开始正式讨论深度学习（Deep Learning）。希望通过这样一步一步地介绍能够对深度学习有一个比较清楚的脉络。卷积网络的介绍-Introducing convolutional networks正是因为前面介绍深度神经网络训练起来会有各种问题，所以针对图像领域，提出了一个卷积神经网络。卷积神经网络（Conv

2016-01-23 22:42:16 952

原创 Neural Networks and Deep Learning学习笔记ch5 - 为什么深度神经网络很难训练?

深度神经网络前面的章节介绍了反向传播算法和一些常见的改进神经网络的训练效果的方法。前面还只是停留在只有一个隐藏层的神经网络。如上图所示，这样的一个神经网络就只有输入、输出层和一个隐藏层。在手写字体识别例子中，这样一个简单的神经网络能够达到98%的正确率！可以预料到，如果增加隐藏层的层数，那么神经网络的学习能力将更加强，可以学习到更加抽象的概念。如上所示为一包含三个隐藏层的神经网络，假如第

2016-01-23 21:41:47 3402

原创 Neural Networks and Deep Learning学习笔记ch3 - 改进神经网络的学习方法

上一章节学习了神经网络中的反向传播算法，反向传播算法的出现，使得大型神经网络的训练变得可能了。这一节，继续学习神经网络中常用到的一些小技巧，用来改善神经网络。学习一个更好的代价函数，交叉熵代价函数。四个正则化（regularization）的方法，L1、L2正则化，以及dropout，数据扩充（data argument），这些方法可以使神经网络有更好的泛化性更好的初始化神经网络的方法一系列

2016-01-11 23:06:29 2070

原创 Neural Networks and Deep Learning学习笔记ch2 - 反向传播

在上一节中简单介绍了神经网络的结够和sigmoid neuro，以及神经网络的目标函数和学习方法。但是没有讲如何调整权重，通常是需要对目标函数求导，也就是说回避了对目标函数求导这个问题。这一节就将讲述这个问题。关于代价函数的两个假设反向传播算法的目标是计算代价函数对w,bw,b的偏微分∂C∂w\frac{\partial C}{ \partial w}和∂C∂b\frac{\partial C}{

2016-01-11 20:45:33 2482 5

原创 Neural Networks and Deep Learning学习笔记ch1 - 神经网络

最近开始看一些深度学习的资料，想学习一下深度学习的基础知识。找到了一个比较好的tutorial，Neural Networks and Deep Learning，认真看完了之后觉得收获还是很多的。从最基本的感知机开始讲起，到后来使用logistic函数作为激活函数的sigmoid neuron，和很多其他现在深度学习中常使用的trick。把深度学习的一个发展过程讲得很清楚，而且还有很多源码和实验帮

2016-01-11 17:00:15 6943

转载 ubuntu14.04+opencv 3.1+contrib安装及测试

本文记录了ubuntu下使用源码手动安装opencv的过程。步骤来自opencv官网此外记录了在python中安装及载入opencv的方法。1、安装opencv所需的库（编译器、必须库、可选库）GCC 4.4.x or later CMake 2.6 or higher Git GTK+2.x or higher, including headers (libgtk...

2016-01-05 17:23:29 5276

转载 Ubuntu下Eclipse搭建python,opencv开发环境

环境：Ubuntu 10.04步骤：1、安装配置JDK，详见http://blog.csdn.net/gavin_dinggengjia/article/details/73638632、下载eclipse从官网http://www.eclipse.org/downloads/下载Eclipse IDE for Java EE Developers的Linux 32

2016-01-05 15:38:19 1158