19-tensorflow实现线性回归

线性回归

权重与特征相乘的和再加上偏置项。所以线性回归就是找到权重与偏置项的值

算法：线性回归
策略：均方误差
优化：梯度下降

步骤：

1. 准备好特征与目标值
2. 建立模型。随机初始化和特征数相同的权重w和一个偏置b，y_predict = wx+b。注意：只要是模型的参数，必须是变量（Variable)
3. 求损失函数，误差。这里选均方误差，loss = （(y_predict1-y1)^2 +…+ (y_predictn-yn)^2）/特征数
4. 梯度下降去优化损失过程，指定学习率

api

梯度下降api：

**线性回归实现 **

import tensorflow as tf
def myregression():
    """
    自实现一个线性回归预测
    :return: None
    """
    #准备数据
    x = tf.random_normal([100, 1], mean=1.75, stddev=0.5, name="x_data")
    y_true = tf.matmul(x, [[0.7]]) + 0.8 #矩阵相乘必须是2维的

    #建立线回归模型
    weight = tf.Variable(tf.random_normal([1, 1], mean=0.0, stddev=1.0, name="weight"))
    bias = tf.Variable(0.0, name="bias")
    y_predict = tf.matmul(x, weight) + bias

    #建立损失函数，均方误差
    loss = tf.reduce_mean(tf.square(y_predict-y_true)) #reduce_mean是计算平均值

    #梯度下降优化损失
    train_op = tf.train.GradientDescentOptimizer(learning_rate=0.1).minimize(loss) #梯度下降去进行优化，即最小化损失，所以后面加了minimize

    #定义一个初始化变量的op
    init_op = tf.global_variables_initializer()

    #通过会话运行程序
    with tf.Session() as sess:
        #初始化变量
        sess.run(init_op)
        #打印随机初始化的权重和偏置值
        print("随机初始化的参数权重为：\n", weight.eval(), "\n偏置为：\n", bias.eval())
        #运行优化
        #循环训练优化
        for i in range(100):
            sess.run(train_op)
            print("优化",i,"次优化过后的参数权重为：", weight.eval(), " 偏置为：", bias.eval())
    return None

if __name__ == "__main__":
    myregression()

由于优化次数和学习率（学习的快慢）的原因，这里的结果和正确值之间还存在较大偏差

因为Variable有一个参数trainable，默认为True，即在训练过程中可以被优化（改变），所以通过优化算法进行优化