机器学习笔记01-平方差代价函数除以2m的原因

最新推荐文章于 2024-10-31 18:08:41 发布
最新推荐文章于 2024-10-31 18:08:41 发布
阅读量2.3k 收藏 5
点赞数 5
分类专栏： 学习笔记 文章标签： 机器学习 平方差代价函数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sinat_41787040/article/details/99961908
版权
本文深入探讨了平方差代价函数的数学原理，解释了为何在公式中除以m和2，前者确保误差平均分配到每个样本，后者简化偏导数计算，便于优化算法的实施。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

平方差代价函数如下：

除以m是使得误差平均到每个样本，除以2是一个微积分技巧，用于消除计算偏导数时出现的2。

 

线性回归之代价函数除2m
Journey to the West
12-22 6712
线性回归中代价函数为： J=12m∑i=1m(hθ(x(i))−y(i))2J = \frac{1}{{2m}}\sum\limits_{i = 1}^m {{{\left( {{h_\theta }\left( {{x^{\left( i \right)}}} \right) - {y^{\left( i \right)}}} \right)}^2}} 开始为何是除以2m2m，第一反应不应该除以
吴恩达机器学习笔记 - 线性回归 & 代价函数 & 梯度下降
登龙的专栏
03-25 521
一、基本概念 1.1 机器学习的定义 一个年代近一点的定义，由来自卡内基梅隆大学的 Tom Mitchell 提出，一个好的学习问题定义如下： 一个程序被认为能从经验 E 中学习，解决任务 T，达到性能度量值 P，当且仅当，有了经验 E 后，经过 P 评判，程序在处理 T 时的性能有所提升。 比如以下棋的机器学习算法为例：经验 E 就是程序上万次的自我练习的经验，任务 T 是下棋，性能度量值 P ...
Coursera机器学习机器学习笔记 为什么线性回归中代价函数除以2m？
sch的学习笔记
09-06 5951
转载：http://blog.csdn.net/u010106759/article/details/50380442 线性回归中代价函数为： J=12m∑i=1m(hθ(x(i))−y(i))2J=12m∑i=1m(hθ(x(i))−y(i))2 J = \frac{1}{2m} \sum_{i=1}^{m} {\left({h}_{\theta }({x}^{\left(i \rig...
线性回归中代价函数除以2m
学而时习之的博客
12-25 2645
线性回归中代价函数为：   为什么是除以2m？第一反应不应该除以m么？ 是为了后续数学计算的方便。因为这里无论除以2m还是m，代价函数最优化的结果θ都是相同的。利用梯度下降法对J求导，如果是2m，求导结果为： 这里正好除以mm，便于计算。 其中使用的公式是莱布尼茨公式。 (uv)' = u'v + uv'...
为什么线性回归中代价函数除以2m？
种花家的奋斗兔的博客
08-01 1570
转https://blog.csdn.net/shengchaohua163/article/details/77871628
损失函数为什么用平方形式（二）
saltriver的专栏
08-31 9128
我们在以前谈过《线性回归损失函数为什么要用平方形式》，除了这篇文章中提到的理由外。还有什么依据呢？ 平方形式的损失函数一般为： C=12∑i=1n(yi−yˆi)2C =\frac {1}{2} \sum\limits_{i = 1}^n {{{({y_i} - {{\widehat y}_i})}^2}} 这称为SSE（The sum of squares due to error），误
机器学习笔记---潦草小狗
最新发布
m0_75210954的博客
10-31 856
1.机器学习是从数据中自动分析获得模型，并利用模型对未知数据进行预测。2.数据集的构成-----》特征值+目标值#每一行称为样本#有些数据集可以没有目标值#datasets.load_*() 获取小规模数据集sklearn.datasets.load_iris() 加载并返回鸢尾花数据集sklearn.datasets.load_boston() 加载并返回波士顿房价数据集#datasets.fetch_*() 获取大规模数据集。
【学习笔记】 陈强-机器学习-Python-Ch9 惩罚回归
2201_76026029的博客
08-14 959
本学习笔记 仅为以防自己忘记了，顺便分享给一起学习的网友们参考。如有不同意见/建议，可以友好讨论。本学习笔记 所有的代码和数据都可以从陈强老师的个人主页上下载陈强.机器学习及Python应用. 北京：高等教育出版社, 2021.数学原理等 详见陈强老师的PPT参考了网友阡之尘埃的Python机器学习04——惩罚回归。
【量化】4天学会python机器学习与量化交易-笔记4(p21~p25)
12-22
在量化投资领域，Python机器学习和量化交易是重要的工具和技术，可以帮助投资者进行高效的数据分析和策略构建。本笔记主要介绍了因子数据的标准化处理、市值中心化处理及其在实际中的应用。 **因子数据的标准化处理...
学习笔记1-机器学习基本的tensorflow的函数
csdn_1_10086的博客
05-10 242
数据操作 import tensorflow as tf x=tf.range(4) #[0,1,2,3] tf.zeros((2,3,4)) #全部赋值为0 y=tf.ones((2, 3, 4)) #全部赋值为1 #(2, 3, 4)为： [[[1, 1, 1, 1], # [1, 1, 1, 1], # [1, 1, 1, 1]], # [[1, 1, 1, 1], # [1, 1, 1, 1], #
线性回归中梯度下降法的代价函数除以2m
b296405422的博客
03-27 1070
第一反应是为什么不是1/m，虽然效果是一样的，有人说是方便求导，记录一下： 线性回归中代价函数为： 开始为何是除以2m，第一反应不应该除以m么？在吴恩达机器学习视频公开课上讲解是为了其他数学计算的方便。其实这里无论除以2m还是m，代价函数最优化的结果θ都是相同的。 数学计算的方便：之后利用梯度下降法对J求导，如果是2m2m，求导结果为：∂J∂θi=1m∑i=1m(hθ(x(i)) 这...
随笔1.机器学习中的Cost function为什么要除以2
崩坏的芝麻
05-19 2711
首先看机器学习中常用的成本函数（cost function） ： 这里为什么要多除个2呢，按正常情况下只需要1/m就足够了 原因： 这是为了之后的计算方便，在之后的利用梯度下降法对J求导时，如果是2m，求导结果为： 正好求导时平方的2可以消去 值得注意的是：加2对于θ的求解是不影响的，因为求解得J代表的是一个最小值！ ...
代价函数中的1/2m的解释
会写Bug的攻城狮
09-14 2950
机器学习和统计学讲线性回归的时候用的公式有一些差异 以下是个人理解 除以m是为了消除样本数量m对J的影响 除以2是为了抵消对J关于θ求偏导数时式子多出的一个2，使计算更方便 ...
关于损失函数2m解释
LoveWeeknd
07-20 2052
说明：m是代表m个样本，1/m 表示m个样本方差的均值，2是为了方便后面求导，其实是可以取任意实数  
qt中split函数怎么用_思考：机器学习中损失函数为什么用2n为底
weixin_39644146的博客
12-05 407
大家好，最近有朋友留言询问为什么在机器学习中的损失函数用2n为底，如下公式所示。损失函数如上图所示，MSE(Mean-square error，均方误差)是比较常用的损失函数方程。确实，MSE公式中，如果使用n替换掉2n，可以达到同样的效果。那么，为什么大部分公式中倾向保留2n呢？机器学习的目的在机器学习中，当有了数据集(dataset)，我们需要创建一个模型，使得模型的预测值和数据集中的真实值尽...
吴恩达机器学习14：梯度下降以及平方差代价函数
aikunjiao3421的博客
01-22 354
1.左边是梯度下降算法，右边是线性回归模型 　　我们要做的是将梯度下降算法应用到最小化平方差代价函数 　　在计算梯度下降时，不断的重复计算直至最后收敛。 　　 　　上式(1)中是对θ0进行求偏导，(2)是对θ1求偏导。在凸函数中， 转载于:https://www.cnblogs.com/bigdata-stone/p/10303608.html...
关于梯度下降算法的讲解
咸鱼的博客
08-03 355
线性回归：在某一个点的时候能预测出另一个点的数据，这就叫做线性回归。 那我们如何求线性回归呢？ 首先要了解损失函数 除以2m是为了后面能够更好的计算 预测结果减去真实结果误差的平方 从i到m连加的总和就是损失函数 将x和y的偏导值打包起来，这就是梯度 学习率：可以理解为步伐的大小，简单的来说就是需要自己去调试数据，根据实际情况去调试。 当上次的损失函数-最近一次的损失函数<0.00001（不能再小）就会自动跳出for循环 数学公式的用法可以简单的理解为，将其转换为代码进行计算，不用了解如..
深度学习中的损失函数
为实现四个现代化奋斗
03-13 7433
神经网络模型的效果及优化的目标是通过损失函数来定义的。 1.平方差损失函数 平方差函数是最常用的损失函数，也就是L2 loss再除以2。 E=12(a−y)2E=12(a−y)2 E=\frac{1}{2}(a-y)^2 其中y是我们期望的输出，a为神经元的实际输出 (a=σ(Wx+b)a=σ(Wx+b)a=\sigma(Wx+b), σσ\sigma 是激活函数) 。也就...
机器学习与数据分析课程笔记-回归
k17041114的博客
05-27 1403
关于线性回归 许多真实的过程能够用线性模型来近似 线性回归通常作为更大系统的一个模块 线性系统能有解析解，不需要迭代逼近，而是直接可以求解出来 线性预测提供了对许多机器学习核心概念的介绍，例如定义目标函数、梯度下降等 一元线性回归 比如一个朋友要买房子，如今已知一些房价的面积和对应价格。我们希望能得到一个模型已知面积预测房价。该图中有许多样本点，每个点横轴对应面积大小、纵轴对应的是...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值