机器学习9：“Hello World” of deep learning

一、框架

1、TensorFlow或者theano比较灵活，可以理解成微分器，你可以用来实现Gradient Decent，但用起来实际上是有难度的；

2、keras其实是TensorFlow或theano的API接口，可以帮助你快速做一个模型，现在TensorFlow默认使用Keras接口，theano也可以安装使用keras；

3、keras有很多现成的接口帮助你，你同样可以有灵活性写自己的函数；

4、keras的documentation：http://keras.io/；

5、使用keras更像是在搭积木；

二、“Hello World”

1、数据准备

2、模型构建

model = Sequential()创建一个model；

add添加“层”，Dense里面是输入和输出的维数，只有第一层用输入，中间层默认上一层的输出为输入；

每一层添加一个激活函数Activation,激活函数可以有多种选择；

 

 

3、模型评价（Loss Function与优化方法）

使用compile函数，这里选择了CrossEntropy作为损失函数，adam作为梯度优化方法

4、训练

x_train是训练数据，y_train是标签类型，batch_size是将数据分成多块，表示每块的大小，nb_epoch表示重复调参数的次数，这里不是每个块里面的调参次数，每个块里面依然调很多次参数，这里是重复所有块的次数。

数据表示如下（数据输入前需要转化成相应形式）：

x_train输入10000张28*28图片，那么数据维数是10000*784

y_train输入10000张图片的标签，每一列代表一个标签，图中第一个标签是｛0，0，0，0，0，1，0，0，0，0｝，代表数字“5”

batch_size的大小设置有所讲究，对于GPU来说，设置太小的话，batch数量就多，就要分很多次计算，运算时间会比较长，设置太大的话，每个batch里面一次调整很多参数可能会出错。

下图是两个batch分开计算与合并起来计算的速度说明：

5、模型的保存与测试

三、调参数

模型需要调整Loss Function，梯度下降方法以及层数获得最好的效果