三、多变量线性回归

本文介绍了多变量线性回归模型,包括特征的标度、梯度下降算法及其学习率的选择,以及正规方程的运用。在梯度下降中,讨论了如何调整学习率以确保正常收敛,并比较了梯度下降与正规方程在处理大量特征时的优缺点。
摘要由CSDN通过智能技术生成

多个特征

上次学习的单变量回归模型是针对一个特征(变量)而言的,在实际情况中一个样本应该有多种特征,还是拿房价举例。
这时候房价有多个特征,包括面积、房间数量、楼层高度、房龄,最后还有各自对应的价格。

  • n n n = 特征的数量
  • x ( i ) x^{(i)} x(i) = 输入的 i t h i^{th} ith训练样本
  • x j ( i ) x_j^{(i)} xj(i) = i t h i^{th} ith训练样本的 j j j特征值

假设函数:
以前: h θ ( x ) = θ 0 + θ 1 x \large h_\theta(x) = \theta_0 + \theta_1x hθ(x)=θ0+θ1x
现在: h θ ( x ) = θ 0 + θ 1 x 1 + θ 2 x 2 + . . . + θ n x n \large h_\theta(x) = \theta_0 + \theta_1x_1 + \theta_2x_2 + ... + \theta_nx_n hθ(x)=θ0+θ1x1+θ2x2+...+θnxn

为了方便标记,定义 x 0 x_0 x0 = 1 ( x 0 ( i ) x_0^{(i)} x0(i) = 1)

对于多变量的梯度下降算法

假设函数 h θ ( x ) = θ T x = θ 0 x 0 + θ 1 x 1 + θ 2 x 2 + . . . + θ n x n \large h_\theta(x) =\theta^Tx = \theta_0x_0 + \theta_1x_1 + \theta_2x_2 + ... + \theta_nx_n hθ(x)=θTx=θ0x

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
变量线性回归是一种机器学习算法,它可以用来预测多个自变量和一个因变量之间的关系。在TensorFlow中,我们可以使用tf.keras API实现多变量线性回归。 以下是一个使用TensorFlow实现多变量线性回归的示例代码: ```python import tensorflow as tf import numpy as np # 定义训练数据 x_data = np.array([[73, 80, 75], [93, 88, 93], [89, 91, 90], [96, 98, 100], [73, 66, 70]], dtype=np.float32) y_data = np.array([[152], [185], [180], [196], [142]], dtype=np.float32) # 定义模型 model = tf.keras.Sequential() model.add(tf.keras.layers.Dense(units=1, input_dim=3)) # 编译模型 model.compile(loss='mean_squared_error', optimizer=tf.keras.optimizers.SGD(lr=0.00001)) # 训练模型 model.fit(x_data, y_data, epochs=1000) # 预测结果 x_test = np.array([[90, 88, 93]], dtype=np.float32) print(model.predict(x_test)) ``` 在这个示例中,我们首先定义了训练数据,其中x_data包含了五个样本,每个样本都有三个变量,y_data包含了五个因变量。然后,我们定义了一个包含一个输入层和一个输出层的模型。输入层的维度为3,输出层的维度为1。接下来,我们编译模型,并使用训练数据对模型进行训练。在训练过程中,我们使用了均方误差作为损失函数,使用随机梯度下降法作为优化器。最后,我们使用训练好的模型对一个新的样本进行预测,并输出结果。 需要注意的是,多变量线性回归在实际应用中可能会面临过拟合和欠拟合等问题,需要根据具体情况进行调整和优化。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值