Matlab回归算法,线性回归算法Matlab实现

编辑推荐:

本文来自于csdn，本文将通过以OCR(光学字符识别)的场景来介绍深度学习在计算机视觉中的应用。

一，单变量线性回归：

1. 数据分布，x轴是属性城市人口，y轴是标签值盈利：

2. 目的：使用一个线性函数去拟合上面这些数据；

该线性函数如下只有两个参数，利用梯度下降找出使损失值最小时，对应的两个参数值，即得到了线性函数。

算法三要素：

1)设置线性函数，即假设函数(Hypothesis)；

2)选定损失函数 J，

3)梯度下降，找到使得J值最小时，对应的theta_0, theta_1。

J值最小，预测的h_theta(x)值就会越接近标签纸y

3. 梯度下降：

找损失函数J的最小值，高数知识可知对函数求导等于零，对应的点即为极值点，但有些函数不能直接求出倒数值，所以需要梯度下降逐渐的趋向最小值。

梯度下降过程如下所示，便于分析，这里假设线性函数为 theta_1

* x, 没有 theta_0，theta = theta - alpha * K, K即为斜率，迭代变化\theta_1值，使得J值为0

其中，迭代过程：