#! https://zhuanlan.zhihu.com/p/611485530
线性回归原理以及代码实现
完整的实验代码在我的github上👉QYHcrossover/ML-numpy: 机器学习算法numpy实现 (github.com) 欢迎star⭐
线性回归是一种广泛应用于机器学习和统计学领域的基本模型。它的核心是通过最小二乘法来拟合一条直线或超平面,使得这条直线或超平面与训练数据集中的实际数据点的误差平方和最小。这样的直线或超平面能够最好地拟合数据,从而帮助我们解决各种问题,例如房价预测、销售预测、甚至股票价格预测等等。
线性回归的原理
线性回归是一种基本的机器学习模型,它通过拟合一条直线或超平面来预测目标变量。假设我们有一个包含 n n n 个样本的数据集,其中每个样本有 m m m 个特征。我们可以将数据表示为一个 n × ( m + 1 ) n \times (m+1) n×(m+1) 的矩阵 X X X,其中第一列全为1,代表截距。目标变量可以表示为一个 n × 1 n \times 1 n×1 的列向量 y y y。则线性回归模型可以表示为:
y ^ = h θ ( X ) = θ 0 + θ 1 x 1 + θ 2 x 2 + ⋯ + θ m x m \hat{y} = h_{\theta}(X) = \theta_{0} + \theta_{1}x_{1} + \theta_{2}x_{2} + \cdots + \theta_{m}x_{m} y^=hθ(X)=θ0+θ1x1+θ2