【线性回归】梯度下降、牛顿法，最小二乘法的

于 2018-10-30 00:35:05 发布
阅读量2.2k 收藏 9
点赞数 2
分类专栏： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_30986521/article/details/83515186
版权
本文介绍了线性回归中常用的优化算法，包括梯度下降的批量、随机和小批量三种形式，详细阐述了每种方法的优缺点，并通过实例解释了牛顿法在求解方程和最小化函数中的应用。同时，讨论了最小二乘法的矩阵运算解法及其在高维问题中的挑战。
摘要由CSDN通过智能技术生成

1、梯度下降

设损失函数为：

                                                                     J(\theta ) =\tfrac{1}{2}\sum_{i}^{m}(f(x_{i}, \theta ) - y_{i})^{2}

其中m为样本个数，x_{i}是输入的特征，y_{i}是目标值，f(x_{i}, \theta )为模型预测值，(f(x_{i}, \theta) - y_{i})^{2}就是误差了，J(\theta)就是所有样本的误差之和，现在要做的事就是找到一个\theta让J(\theta)最小

1.1批量梯度下降

当x_{i}为一个变量时，梯度下降就是一个求导的过程，当x_{i}时一个向量时，梯度下降就是对\theta中每一个分量求偏导的过程。具体求法&#x

最低0.47元/天 解锁文章
icebearzzz
关注
  • 2
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值