网上关于线性回归的介绍已经很详细,结合课堂老师所讲的内容,下面是我个人的实验所做的内容,老师大部分实验都是斯坦福上的,不过要自己理解和学习需要自己实现其实也不难。我会以matlab代码形式展示给大家,希望对你们有帮助,有错误还望大家指正。
1. 2D线性回归
- 2D线性线性回归模型
h θ ( x ) = θ T x = ∑ i = 0 1 θ i x i = θ 0 + θ 1 x 1 h_\theta(x)=\theta^Tx=\sum_{i=0}^1\theta_ix_i=\theta_0+ \theta_1x_1 hθ(x)=θTx=i=0∑1θixi=θ0+θ1x1 - 梯度下降算法
注意你选择的是梯度下降算法还是随机梯度下降算法,这两者是有区别的,具体的可以自行百度,我使用的是梯度下降算法。
- 实验内容
(1)使用 α = 0.07 \alpha = 0.07 α=0.07的学习率实施梯度下降。初始化参数 θ = 0 ⃗ ( i . e . , θ 0 = θ 1 = 0 ) \theta = \vec{0}(i.e.,\theta_0 = \theta_1 = 0) θ=0(i.e.,θ0=θ1=0),并从该初始起点开始一次梯度下降迭代。 记录第一次迭代后得到的 θ 0 \theta_0