深度学习框架概览

深度学习框架

主流框架概览

• Caffe
• CNTK
• DL4J
• Keras
• Lasagne
• Mxnet
• PaddlePaddle
• TensorFlow
• Theano
• Torch

框架选择标准

• 便于编程。既包括神经网络的开发和迭代，还包括为产品进行配置。
• 运行速度。特别是训练大型数据集时，一些框架能够让我们高效地运行和训练神经网络。
• 框架是否真的开放。它不仅需要开源，而且需要良好的管理。

TensorFlow实例

import numpy as np
import tensorflow as tf
w = tf.Variable(0,dtype=tf.float32) #定义参数
cost = tf.add(tf.add(w**2,tf.multiply(-10,w)),25)#定义损失函数
#损失函数J=（w-5）^2，我们希望通过优化参数w使损失函数最小化
train = tf.train.GradientDescentOptimizer(0.01).minimize(cost)#使用梯度下降法使损失函数达到最小
#下面几行是惯用表达
init = tf.global_variables_initializer()
session = tf.Sessions()#开启TensorFlow的session
session.run(init) #初始化全部变量
session.run(w) #让TensorFlow评估一个变量
for i in range（1000）
session.run(train)#运行一步梯度下降法
print（session.run(w)）#4.99
#我们只需编写正向传播过程，TensorFlow会自动帮我们完成反向传播