Tensorflow-2线性回归

1.线性回归模型搭建

已知输入x_data和y_data,搭建一个两层的神经网络回归模型，预测y_data.

1.1训练数据

import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt

#生成200个点，[:,np.newaxis]直接生成的是一维数组，后面的操作是增加一个维度
x_data=np.linspace(-0.5,0.5,200)[:,np.newaxis]
noise=np.random.normal(0,0.02,x_data.shape)
y_data = np.square(x_data) + noise


#查看一下数据形状
print(x_data.shape)
type(x_data)
print(noise.shape)

补充知识：

numpy.random.normal(loc=0.0, scale=1.0, size=None)

loc：float
    此概率分布的均值（对应着整个分布的中心centre）
scale：float
    此概率分布的标准差（对应于分布的宽度，scale越大越矮胖，scale越小，越瘦高）
size：int or tuple of ints
    输出的shape，默认为None，只输出一个值

我们更经常会用到的np.random.randn(size)所谓标准正态分布（μ=0,σ=1），对应于np.random.normal(loc=0, scale=1, size)。
对此，可参考：从np.random.normal()到正态分布的拟合

1.2 构建一个神经网络

# 定义两个placeholder
x = tf.placeholder(tf.float32, [None,1])
y = tf.placeholder(tf.float32, [None,1])

# 定义中间层
Weights_L1 = tf.Variable(tf.random_normal([1,10]))#random_normal与numpy区别
bias_L1 = tf.Variable(tf.zeros([1,10]))
Wx_plus_b_L1 = tf.matmul(x, Weights_L1) + bias_L1
# 激活函数
L1 = tf.nn.tanh(Wx_plus_b_L1)

# 定义输出层
Weights_L2 = tf.Variable(tf.random_normal([10,1]))
bias_L2 = tf.Variable(tf.zeros([1,1]))
Wx_plus_b_L2 = tf.matmul(L1,Weights_L2) + bias_L2
prediction = tf.nn.tanh(Wx_plus_b_L2)

# 二次代价函数（损失函数）
loss = tf.reduce_mean(tf.square(y-prediction))
# 梯度下降法
train_step = tf.train.GradientDescentOptimizer(0.1).minimize(loss)

with tf.Session() as sess:
    # 变量的初始化
    sess.run(tf.global_variables_initializer())
    for _ in range(2000):
        sess.run(train_step, feed_dict={x:x_data, y:y_data})
        
    # 获得预测值
    prediction_value = sess.run(prediction,feed_dict={x:x_data})

    plt.figure()
    plt.scatter(x_data, y_data)
    plt.plot(x_data, prediction_value,'r-', lw=5)
    plt.show()

补充知识：

1.tf.multiply（）两个矩阵中对应元素各自相乘
格式: tf.multiply(x, y, name=None)
参数:

• x: 一个类型为:half, float32, float64, uint8, int8, uint16, int16,int32, int64, complex64, complex128的张量。

• y: 一个类型跟张量x相同的张量。

返回值： x * y element-wise.
注意：

• （1）multiply这个函数实现的是元素级别的相乘，也就是两个相乘的数元素各自相乘，而不是矩阵乘法，注意和tf.matmul区别。

• （2）两个相乘的数必须有相同的数据类型，不然就会报错。

2.tf.matmul（）将矩阵a乘以矩阵b，生成a * b。
格式: tf.matmul(a, b, transpose_a=False, transpose_b=False, adjoint_a=False, adjoint_b=False, a_is_sparse=False, b_is_sparse=False, name=None)
参数:

• a: 一个类型为 float16, float32, float64, int32, complex64, complex128 且张量秩> 1 的张量。

• b: 一个类型跟张量a相同的张量。

• transpose_a: 如果为真, a则在进行乘法计算前进行转置。

• transpose_b: 如果为真, b则在进行乘法计算前进行转置。

• adjoint_a: 如果为真, a则在进行乘法计算前进行共轭和转置。

• adjoint_b: 如果为真, b则在进行乘法计算前进行共轭和转置。

• a_is_sparse: 如果为真, a会被处理为稀疏矩阵。

• b_is_sparse: 如果为真, b会被处理为稀疏矩阵。

• name: 操作的名字（可选参数）

返回值： 一个跟张量a和张量b类型一样的张量且最内部矩阵是a和b中的相应矩阵的乘积。
注意：
（1）输入必须是矩阵（或者是张量秩 >２的张量，表示成批的矩阵），并且其在转置之后有相匹配的矩阵尺寸。
（2）两个矩阵必须都是同样的类型，支持的类型如下：float16, float32, float64, int32, complex64, complex128。