机器学习.线性回归

最新推荐文章于 2024-08-27 22:39:52 发布

丰海洋

最新推荐文章于 2024-08-27 22:39:52 发布

阅读量443

点赞数 5

文章标签：机器学习线性回归人工智能

本文链接：https://blog.csdn.net/2301_79724443/article/details/135923157

版权

$\Theta$ 1和 $\Theta$ 2是权重项， $\Theta$ 0是偏置项，在训练过程中为了使得训练结果更加精确而做的微调，不是一个大范围的因素，核心影响因素是权重项

为了完成矩阵的运算，在 $\Theta$ 0后面乘x0，使得满足矩阵的转换，所以在处理数据时候会添加如有上图所示的x0一列全是1的数据

为了得出这个平面，我们要做的就是找出所有的未知量 $\Theta$

y为真实值， $\Theta$ 乘x是预测值， $\varepsilon$ 是误差值，每个样本的真实值和误差值都存在误差
什么是机器学习呢：就是你给机器一堆数据，机器通过数据不断学习，调整参数，最终得出完美符合数据特征的参数，机器学习==调参侠
我们要想求斯塔，就要将关于 $\varepsilon$ 的算式转化成关于斯塔的算式

上图第三个算式左边的解释：x与组合后与y的数值越相近越好

为什么是累乘？因为需要大量的数据去完善最后的参数，使得参数更加准确，因为乘法难解，所以可以加上对数转换成加法，而且转换后虽然L的数值改变了，但是我们要求取的是 $\Theta$ 为何值使得L最大，所以不改变最后的 $\Theta$ 数值

要让似然函数数值最大化，由于前面的项是一个常数项，所以后面的项就要最小化

这里的x和 $\Theta$ 不是一个数，而是一个矩阵

经过求偏导，得出 $\Theta$ ，但是机器学习是一个通过不断学习的过程不断完善 $\Theta$ 这个参数，但是上面求解决 $\Theta$ 的过程并没有一个学习的过程

做切线，走一小步，然后继续做切线，继续一小步，直到走到最低点

有一个问题：计算 $\Theta$ 1和 $\Theta$ 0的时候是一起计算好还是分别单独计算好呢？答案是分别计算，因为参数具有独立性

第二个问题：如何找到当前最合适的方向，求偏导

解释一下这张图上的目标函数为什么多了个平方：是因为将数据的误差效果放大

这个公式就是对目标函数求偏导得出方向，因为梯度下降是沿这原来的反方向走，所以后面那个公式前面的符号改变成＋号，表示在原来的初始位置 $\Theta$ j的位置走那么长的距离

由于批量梯度下降和随机梯度下降各有各的毛病，所以一般采用小批量梯度下降法，每次更新选择一小部分数据来算，比较实用

批量梯度下降法公式中的α就是学习率

丰海洋

关注

5
点赞
踩
4

收藏

觉得还不错? 一键收藏
1
评论
机器学习.线性回归

因为需要大量的数据去完善最后的参数，使得参数更加准确，因为乘法难解，所以可以加上对数转换成加法，而且转换后虽然L的数值改变了，但是我们要求取的是。这个公式就是对目标函数求偏导得出方向，因为梯度下降是沿这原来的反方向走，所以后面那个公式前面的符号改变成＋号，表示在原来的初始位置。0是偏置项，在训练过程中为了使得训练结果更加精确而做的微调，不是一个大范围的因素，核心影响因素是权重项。0后面乘x0，使得满足矩阵的转换，所以在处理数据时候会添加如有上图所示的x0一列全是1的数据。的过程并没有一个学习的过程。
复制链接

扫一扫