Tensorflow：单层神经网络实现回归问题

单层神经网络

搭建神经网络的一般步骤

自定义损失函数

import tensorflow as tf
from numpy.random import RandomState
import os

# 除错误外 其他信息不显示
os.environ['TF_CPP_MIN_LOG_LEVEL'] = '3'

# 一次喂给神经网络多少数据
batch_size = 8

# 设定两个输入节点
x = tf.placeholder(tf.float32, shape=(None, 2), name='x_input' )

# 设定一个输出点
y_ = tf.placeholder(tf.float32,shape=(None, 1), name='y_input')


# 定义一个简单的神经网络前向传播过程，这里只做简单的加权求和
# tf.Variable() 进行参数的初始化
# tf.random_normal([2, 1], stddev=1, seed=1) 从指定正太分布的数值中取出指定个数的值
# shape: 输出张量的形状，必选   shape=  [2, 1]为张量的形状，与当前层神经元的个数和下一层神经元的个数有关，
# mean: 正态分布的均值，默认为0
# stddev: 正态分布的标准差，默认为1.0
# dtype: 输出的类型，默认为tf.float32
# seed: 随机数种子，是一个整数，当设置之后，每次生成的随机数都一样
# name: 操作的名称
w1 = tf.Variable(tf.random_normal([2, 1], stddev=1, seed=1))
y = tf.matmul(x, w1)

loss_less = 10
loss_more = 1

# 定义损失函数 后向传播方法
# tf.reduce_sum()为求和函数
# 自定义的损失函数 用tf.where 代替 tf.select
loss = tf.reduce_sum(tf.where(tf.greater(y, y_), (y-y_)*loss_more, (y_-y)*loss_less))


# tf.train.AdagradOptimizer(0.001) 构造一个使用Adadelta算法的优化器，学习率为0.001 即梯度下降中的步长为0.001
train_step = tf.train.AdamOptimizer(0.001).minimize(loss)


# 通过随机数生成一个模拟的数据集
# rdm.rand(data_size,2) 产生128行 2列的伪随机数(0 1之间)
rdm = RandomState(1)
data_size = 128
X = rdm.rand(data_size, 2)

#rdm.rand()/10.0 是(0,1)随机数
Y = [[x1 + x2 + rdm.rand()/10.0-0.05] for (x1, x2) in X]


# 创建会话 开始训练神经网络
with tf.Session() as sees:

    # tf.global_variables_initializer()返回一个计算图中所有变量的对象
    init_op = tf.global_variables_initializer()
    sees.run(init_op)

    # 设置训练次数为5000
    STEPS = 5000
    for i in range(STEPS):
        start = (i*batch_size) % data_size
        end = min(start+batch_size, data_size)
        sees.run(train_step,  feed_dict={x: X[start:end], y_: Y[start:end]})
        print("第"+str(i+1)+"步：")
        print(sees.run(w1))