最近在深入研究深度学习,关于机器学习的基本知识就略过不说了,在深度学习里面,一些概念性的东西还是很好理解的,重点是如何利用已有的知识去构建一个合适解决实际问题的模型,然后用各种小trick去把参数调优。
试水阶段,为了训一个简单的二分类问题,搭了一个两层的神经网络
这里是不加bias的简单模型
def init_weight(shape):
return tf.Variable(tf.random_normal(shape, stddev=0.01))
def model(X, w_h, w_o):
h = tf.nn.sigmoid(tf.matmul(X, w_h))
return tf.matmul(h, w_o)
注意tensorflow的结构是先构图(模型)再训练,所以需要先将图中的变量和结点声明清楚: