数据取对数的意义

最新推荐文章于 2022-11-10 20:37:31 发布

AcceptedLin

最新推荐文章于 2022-11-10 20:37:31 发布

阅读量1.6w

点赞数 4

分类专栏：机器学习

原文链接：https://zhuanlan.zhihu.com/p/95920193

版权

机器学习专栏收录该内容

135 篇文章 5 订阅

订阅专栏

数据取对数在统计分析中广泛应用，其主要作用包括：缩小数值差距便于计算，将乘法转换为加法，调整不同区间差异的影响，以及在回归分析中消除异方差性。此外，取对数后，对数值较小部分的差异更为敏感，有助于在模型中平衡不同规模数值的影响。在经济学中，常取自然对数进行回归分析，以得到弹性。在评估预测模型时，如RMSE，对数处理能确保高价和低价房产误差影响的平等性。

摘要由CSDN通过智能技术生成

数据取对数的意义

平时在一些数据处理中，经常会把原始数据取对数后进一步处理。
之所以这样做是基于对数函数在其定义域内是单调增函数，取对数后不会改变数据的相对关系，取对数作用主要有：

1. 缩小数据的绝对数值，方便计算。

例如，每个数据项的值都很大，许多这样的值进行计算可能对超过常用数据类型的取值范围，这时取对数，就把数值缩小了，例如TF-IDF计算时，由于在大规模语料库中，很多词的频率是非常大的数字。

2. 取对数后，可以将乘法计算转换称加法计算。

3. 某些情况下，在数据的整个值域中的在不同区间的差异带来的影响不同。

例如，中文分词的mmseg算法，计算语素自由度时候就取了对数，这是因为，如果某两个字的频率分别都是500，频率和为1000，另外两个字的频率分别为200和800，如果单纯比较频率和都是相等的，但是取对数后，log500=2.69897, log200=2.30103, log800=2.90308 这时候前者为2log500=5.39794, 后者为log200+log800=5.20411，这时前者的和更大，取前者。因为前面两个词频率都是500,可见都比较常见。后面有个词频是200,说明不太常见，所以选择前者。

从log函数的图像可以看到，自变量x的值越小，函数值y的变化越快，还是前面的例子，同样是相差了300,但log500-log200>log800-log500，因为前面一对的比后面一对更小。

也就是说，对数值小的部分差异的敏感程度比数值大的部分的差异敏感程度更高。这也是符合生活常识的，例如对于价格，买个家电，如果价格相差几百元能够很大程度影响你决策，但是你买汽车时相差几百元你会忽略不计了。

4. 取对数之后不会改变数据的性质和相关关系，但压缩了变量的尺度。

例如800/200=4, 但log800/log200=1.2616，数据更加平稳，也消弱了模型的共线性、异方差性等。

5. 且所得到的数据易消除异方差问题。

6. 在经济学中，常取自然对数再做回归，这时回归方程为 lnY=a lnX+b ，两边同时对X求导，1/Y(DY/DX)=a1/X, b=(DY/DX)(X/Y)=(DYX)/(DX*Y)=(DY/Y)/(DX/X) 这正好是弹性的定义。

当然，如果数据集中有负数当然就不能取对数了。实践中，取对数的一般是水平量，而不是比例数据，例如变化率等。

关于损失函数取对数：

Submissions are evaluated on Root-Mean-Squared-Error (RMSE) between the logarithm of the predicted value and the logarithm of the observed sales price. (Taking logs means that errors in predicting expensive houses and cheap houses will affect the result equally.)

【参考】：

https://www.cnblogs.com/zztt/p/3409675.html

https://zhuanlan.zhihu.com/p/95920193