决定系数R2；残差平方和SSE；回归平方和SSR总平方和SST；

最新推荐文章于 2024-05-26 19:55:19 发布
最新推荐文章于 2024-05-26 19:55:19 发布
阅读量2.7w 收藏 61
点赞数 13
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xingdu_/article/details/110532787
版权

https://theonegis.blog.csdn.net/article/details/85991138

循着这篇博客翻墙找了很多博客看；受益匪浅，说一下自己的理解。

首先，决定系数R2是对于线性模型来说的。

由于我是在预测数据集上进行计算，所以产生了R2是用在训练数据集还是预测数据集上的困惑。

首先，在训练数据集上，R2应该是（我的理解，可能不太对，望指正）用来衡量线性模型在训练数据集上的拟合程度，这时候SST=SSE+SSR（具体可到可知乎或者其他博客查看），所以0<R2<1（\bar{y}其实也只有这时候才有意义，不然单独拿出来为什么使用\bar{y},没有任何意义）。只有平均值有意义，这个公式也才有意义。但是如果是针对非线性模型，那SST=SSR+SSE便不成立了，所以0<R2<1的范围也就不成立的。而且在训练数据集上，非线性模型的拟合程度往往是高于线性模型的，因此SST一定的情况下，SSR肯定是高于线性模型的，那么此时如果你的R2（训练集上的）没有个0.99，那你这非线性不咋地，这个时候用R2衡量非线性模型也就没有意义了。

其次，在预测数据集上，R2在线性模型上还是遵从0<R2<1，但是对于非线性模型就不是了，你可能是负数，也可能接近1，但是这些都不能作为你的模型究竟是好是坏的证据。同上，SST=SSR+SSE不成立,SSR/SST好像应该是正的，但是SSE/SST可能大于1，此时那么R2是负数。这种矛盾现象产生的原因就是SST=SSE+SSR不成立。

所以在非线性模型上，同时在预测数据集上，

1、SSR/SST>0，但是由于SST=SSR+SSE不成立，范围无法确定，且SST中y-\bar{y}也没有意义了。此时预测集确定，SST确定，实际上起作用的只有SSR，而SSR表示的预测值与平均值的差距，这个在非线性模型中好像没有任任何意义吧，在线性模型中确实平均值可以作为衡量线性模型的拟合程度

2、1-SSE/SST，同样，SST=SSR+SSE不成立，那么R2可能小于0.同样的，这里面有含义且起作用的只有SSE，这不就是MSE*n吗，既然此时SST没有含义了，R2范围也不再是0<R2<1，那么直接用SSE/MSE不就可以了吗？多此一举干嘛？

所以，不论是R2，还是SST,SSR,他们有一点，公式中含有平均值这一个选项，而只有在线性模型下，SST=SSE+SSR,这个选项才有意义，对于非线性模型，意义不大。

那么还有可能发现，我是用R2和非线性模型，在测试集上，确实预测的越好R2越大，因为1-SSE/SST中，SST不变，起作用的就只有SSE，当模型还可以的时候，R2接近0.9，这样模型越好,SSE/MSE越小，当然R2越好（越接近1），但是那又怎么样，没有任何意义，既然R2范围都不固定了，那也就没有任何意义了，那只选择里面起作用的一项SSE/MSE不就可以了吗？

同时在不同领域，R2取多少合适也是不确定的，有的领域可能0.4就好，再大说明你错了。

如有不当之处，欢迎指正！

放两个链接

https://statisticsbyjim.com/regression/difference-between-linear-nonlinear-regression-models/

https://blog.minitab.com/blog/adventures-in-statistics-2/regression-analysis-how-do-i-interpret-r-squared-and-assess-the-goodness-of-fit

可以去这两个博文下面，里面还有很多讨论，多翻几个，对你会很有帮助

 

 

 

 

 

星独
关注
  • 13
    点赞
  • 踩
  • 61
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
（转）决定系数R2
weixin_34067102的博客
11-08 7597
有些讲得太烂了，我来通俗的梳理一下R2. Calculating R-squared 在线性回归的模型下，我们可以计算SE(line), SE(y均值)。 The statistic R2describes the proportion of variance in the response variable explained by the predictor variable 如何理解...
sklearn【R²】决定系数，原理及代码学习！
高级数据分析师，分享Python知识
04-22 3382
决定系数（Coefficient of Determination），又称R方，是衡量回归模型拟合优度的统计量，用来反映回归模型对样本数据的拟合程度。收集数据：首先需要收集自变量和因变量的观测数据，确保数据的准确性和完整性。建立回归方程：根据收集到的数据，建立回归方程。回归方程的形式可以根据实际情况进行选择，常见的有线性回归、多项式回归等。计算预测值：利用建立的回归方程，计算因变量的预测值。预测值可以通过代入自变量的观测值来计算。计算残差：计算每个观测值的残差，即观测值与预测值之间的差异。
【学习心得】回归任务的评估指标决定系数R^2
qq_39780701的博客
05-26 498
回归任务的评估指标决定系数R^2
R²决定系数
chen的博客
10-07 3159
（决定系数）是一个用于衡量统计模型拟合数据的指标，通常用于线性回归分析。它表示模型所解释的因变量（目标变量）方差的比例，范围从0到1。假设你是一名销售经理，想要建立一个线性回归模型，来预测每月销售额与广告投入的关系。值，表明你的模型相对准确地拟合了数据，广告投入对销售额有较强的解释能力。接近1时，模型能够很好地拟合数据，因为它能够解释大部分因变量的变化。这意味着你的模型能够解释销售额变化的大约81%。接近0时，模型无法很好地拟合数据，因为它不能解释因变量的变化。告诉我们模型能够解释因变量变化的百分比。
[Python] 什么是R2分数(决定系数)以及通过scikit-learn的r2_score函数计算R2分数
老狼工作室的博客
01-09 4806
本文主要介绍了什么是R2分数(决定系数)以及通过scikit-learn的r2_score函数计算R2分数
一般线性模型中SST-SSR-SSE的关系证明
Blog Junhao Luo
10-14 1万+
概述 在一般线性模型y=wx+b中，一般会用解释系数R2来衡量模型的解释率。 R2的计算公式一般认为是： R2=1-SSR/SST=SSE/SST，此时隐含的条件其实是:SST=SSR+SSE 其中，SST代表总的平方和，SSR代表残差平方和，SSE代表回归平方和。 因此很多人认为R2的取值范围应该是（0，1），实际上不是这样的，有些情况下，R2的值是会出现负数的。实际上，R2=1-SSR/SST=SSE/SST并不是在所有情况下都成立，这个式子成立是有前提条件的。 具体证明 ...
回归模型评价指标-SST、SSR、SSE、R-square
吟游诗人——吟唱生命的不朽
01-27 2万+
本文介绍了回归模型在模型选择上的常见评估指标：SST、SSR、SSE和R-square。 SST：The sum of squares total SSR：The sum of squares regression SSE：The sum of squares error SST The sum of squares total. SST是观测到的真实值与真实值的均值之间的差的平方和。 ∑i=1n(yi−y‾)2\sum_{i=1}^{n}{(y_i - \overline{y})^2}∑i=1n​(yi​
R2InRASPNET.zip
02-25
6. **计算R²**：R²等于1减去剩余平方和除以总平方和的比率，即`R² = 1 - (SSE / SST)`。 在ASP.NET Core中集成R语言，可以使用诸如`R.NET`或`mran.microsoft.com`提供的`Microsoft.ML.R`这样的库，这些库允许在...
多元线性回归界面1
08-08
F值是基于F分布计算出来的统计量，在多元线性回归中，它是由模型的总平方和（SST）与残差平方和（SSE）的比例决定的，用于比较模型解释的变异与随机变异之间的比例。F值的计算公式是： \[ F = \frac{\text{模型均方...
MATLAB程序设计之算法回归分析.ppt
11-03
最小二乘法的公式包括计算平均值 `x̄` 和 `ȳ`，以及计算总离差平方和 `SST` 和残差平方和 `SSR`。最终，回归系数可以通过以下公式计算得到：`a = (n * Σxy - ΣxΣy) / (n * Σx² - (Σx)²)`，`b = ȳ - a * x...
总结了回归分析课程的知识点，包括概率统计，回归分析，假设检验等知识。
03-28
在假设检验中，比如SSR、SSE和SST的关系，它们分别代表回归平方和、残差平方和和总平方和。这些量在方差分析和决定系数（R²）的计算中扮演重要角色。同时，了解为什么通常假定变量服从正态分布，这是因为正态分布...
一元线性回归的matlab实现(含R方和F分布检验).pdf
06-23
它是残差平方和（ssd）与总平方和（sst）的比值，即`RR = ssr / sst`，其中ssr是回归平方和。 在MATLAB中，可以使用`disp`函数显示回归方程、R方和F值。同时，绘制散点图和回归线有助于直观地理解模型的拟合情况。`...
决定系数R2
xdy1120的博客
03-19 8246
决定系数 表示：y的波动有多少能被你和直线所描述。 当直线拟合的很好，y到拟合线的差值会很小，此时决定系数接近1.表示y值基本都被拟合直线所描述了。 ...
误差分析计算公式及其 matlab 代码实现(mse、mape、rmse等)
李培冠的博客
08-03 8万+
残差平方和（SSE） 计算公式： 代码实现： sse = sum((YReal - YPred).^2); 均方误差（MSE） 计算公式： 代码实现： mse = sqrt(sum((YReal - YPred).^2))./2; 平均绝对误差（MAE） 计算公式： 代码实现： mae = mean(abs(YReal - YPred)); 平均绝对百分比误差（MAPE） 计算公式： 代码实现 mape = mean(abs((YReal - YPred)./YReal)); 均方根误差（R
相关系数r和决定系数R2的那些事
热门推荐
给永远比拿愉快
01-07 9万+
文章目录相关系数$r$和决定系数$R^2$的那些事协方差与相关系数决定系数（R方）参考资料 相关系数rrr和决定系数R2R^2R2的那些事 有人说相关系数（correlation coefficient，rrr）和决定系数（coefficient of determination，R2R^2R2，读作R-Squared）都是评价两个变量相关性的指标，且相关系数的平方就是决定系数？这种说法对不对呢？...
机器学习10—多元线性回归模型
ex_6450的博客
08-19 2万+
在市场的经济活动中，经常会遇到某一市场现象的发展和变化取决于几个影响因素的情况，也就是一个因变量和几个自变量有依存关系的情况。而且有时几个影响因素主次难以区分，或者有的因素虽属次要，但也不能略去其作用。例如，某一商品的销售量既与人口的增长变化有关，也与商品价格变化有关。这时采用一元回归分析预测法进行预测是难以奏效的，需要采用多元回归分析预测法。多元回归分析预测法，是指通过对两个或两个以上的自变量与一个因变量的相关分析，建立预测模型进行预测的方法。当自变量与因变量之间存在线性关系时，称为多元线性回归分析。
为什么训练集和测试集合都是来自同一分布
m0_61922623的博客
08-02 474
为什么训练集和测试集合都是来自同一分布
决定系数R2能否为负数？
qq_44724526的博客
02-03 1万+
决定系数R2能否为负数？ R2 —— 评估回归的方法 回归是将函数拟合到数据的方法。例如，我们能够通过卫星统计沃尔玛门口停车场的汽车数量，也可以通过其收益报告了解沃尔玛在对应时段的销售额。于是，你想建立一个汽车数量与沃尔玛季度收益的函数关系，以便于您炒股。但是，在建立了汽车数量与季度收益的函数关系以后，我们应该如何评判你和出来的函数关系的优劣呢？常用的度量拟合效果的参数是决定系数R2。本文将详细介绍R2的计算原理及负值产生的原因分析： 什么是R2？ R2用于比较回归模型的预测误差与简单的Y=样本点平
05创建公务卡扣减明细表_CASH_USE_MINUSAMT_DETAIL_20240708-刘君.sql
最新发布
07-19
05创建公务卡扣减明细表_CASH_USE_MINUSAMT_DETAIL_20240708-刘君.sql
多元最小二乘回归 C++有截距和预测的带类实现 及案例
05-31
以下是一个多元最小二乘回归的C++类实现及其使用案例。 ``` #include <iostream> #include <vector> #include <cmath> class MultipleLinearRegression { private: int n; // 自变量个数 int m; // 样本个数 std::vector<double> y; // 因变量 std::vector<std::vector<double>> x; // 自变量矩阵 std::vector<double> beta; // 模型系数 double SSR; // 回归平方和 double SSE; // 残差平方和 double SST; // 总平方和 double R2; // 决定系数 public: MultipleLinearRegression(int _n, int _m) : n(_n), m(_m), beta(_n + 1) { x.resize(m, std::vector<double>(n + 1)); } void setY(const std::vector<double>& _y) { y = _y; } void setX(const std::vector<std::vector<double>>& _x) { for (int i = 0; i < m; i++) { x[i][0] = 1.0; for (int j = 0; j < n; j++) { x[i][j + 1] = _x[i][j]; } } } void fit() { // 计算模型系数 std::vector<std::vector<double>> xtx(n + 1, std::vector<double>(n + 1)); std::vector<double> xty(n + 1); for (int i = 0; i < m; i++) { for (int j = 0; j <= n; j++) { for (int k = 0; k <= n; k++) { xtx[j][k] += x[i][j] * x[i][k]; } xty[j] += x[i][j] * y[i]; } } for (int i = 0; i <= n; i++) { for (int j = i + 1; j <= n; j++) { double r = xtx[j][i] / xtx[i][i]; for (int k = i + 1; k <= n; k++) { xtx[j][k] -= r * xtx[i][k]; } xty[j] -= r * xty[i]; } } for (int i = n; i >= 0; i--) { for (int j = i - 1; j >= 0; j--) { double r = xtx[j][i] / xtx[i][i]; for (int k = i; k >= j; k--) { xtx[j][k] -= r * xtx[i][k]; } xty[j] -= r * xty[i]; } beta[i] = xty[i] / xtx[i][i]; } // 计算回归平方和、残差平方和、总平方和和决定系数 double ymean = 0.0; for (int i = 0; i < m; i++) { ymean += y[i]; } ymean /= m; SSR = SSE = SST = 0.0; for (int i = 0; i < m; i++) { double yhat = predict(x[i]); SSR += (yhat - ymean) * (yhat - ymean); SSE += (yhat - y[i]) * (yhat - y[i]); SST += (y[i] - ymean) * (y[i] - ymean); } R2 = SSR / SST; } double predict(const std::vector<double>& _x) { double yhat = beta[0]; for (int i = 0; i < n; i++) { yhat += beta[i + 1] * _x[i]; } return yhat; } double getSSR() { return SSR; } double getSSE() { return SSE; } double getSST() { return SST; } double getR2() { return R2; } }; int main() { // 构造样本数据 std::vector<std::vector<double>> x = {{1, 2, 3}, {2, 3, 4}, {3, 4, 5}}; std::vector<double> y = {6, 7, 8}; // 构造回归模型并拟合数据 MultipleLinearRegression model(3, 3); model.setX(x); model.setY(y); model.fit(); // 输出模型系数、回归平方和、残差平方和、总平方和和决定系数 std::cout << "beta: "; for (int i = 0; i < 4; i++) { std::cout << model.predict({i, i + 1, i + 2}) << " "; } std::cout << std::endl; std::cout << "SSR: " << model.getSSR() << std::endl; std::cout << "SSE: " << model.getSSE() << std::endl; std::cout << "SST: " << model.getSST() << std::endl; std::cout << "R2: " << model.getR2() << std::endl; return 0; } ``` 在上面的代码中，我们定义了一个`MultipleLinearRegression`类来实现多元最小二乘回归，其中包含了以下几个成员变量： - `n`：自变量个数 - `m`：样本个数 - `y`：因变量 - `x`：自变量矩阵 - `beta`：模型系数 - `SSR`：回归平方和 - `SSE`：残差平方和 - `SST`：总平方和 - `R2`：决定系数 我们还定义了以下几个成员函数： - `setY`：设置因变量 - `setX`：设置自变量矩阵 - `fit`：拟合数据并计算模型系数、回归平方和、残差平方和、总平方和和决定系数 - `predict`：预测因变量值 - `getSSR`：获取回归平方和 - `getSSE`：获取残差平方和 - `getSST`：获取总平方和 - `getR2`：获取决定系数 在使用示例中，我们构造了一个包含3个自变量和3个样本的样本数据，然后构造回归模型并拟合数据，最后输出模型系数、回归平方和、残差平方和、总平方和和决定系数。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值