数据预处理——中心化和标准化

1.什么是中心化和标准化?

中心化:所有数据之和为0
标准化:把数据的分布转化为正态分布
最后数据集变成均值为0,方差为1的分布。
计算过程如下:
在这里插入图片描述
处理前后的数据分布对比:
在这里插入图片描述

2.什么时候需要标准化?为什么需要?

当我们处理一个问题的时候需要用到各种各样的数据,然而他们的量级时常是不一样的,比如说在房价分析的时候,我们会有面积、地域、地价等等等等,面积这些都是几十几百,而地价这些都是百万级别的,如果不加处理的放在一起处理,那面积这个标准就没有任何作用了。

所以这个时候我们就需要用标准化处理这一手段

3.具体怎么做?

我们可以调用sklearn.perprocessing包里的scale来处理

from sklearn import preprocessing
import numpy as np

x = np.array([[1000., -1., 2.,1.,2.,-1.],
              [2., 0., 0.,1.,3.,-2],
              [0., 1., -1.,2.,0.,-40.]])
x_scale = preprocessing.scale(x)

得到的新的数据是
[[ 1.41421144, -1.22474487, 1.33630621, -0.70710678, 0.26726124, 0.7344706 ],[-0.70498228, 0., -0.26726124, -0.70710678, 1.06904497, 0.67938531],[-0.70922916, 1.22474487, -1.06904497, 1.41421356, -1.33630621, -1.41385591]])
明显是一个在正态分布里的排列
我们把它挂出来

import matplotlib.pyplot as plt
plt.figure(figsize = (15,15),dpi = 80)
for i in list(x_scale):
    plt.scatter(range(6),i)

在这里插入图片描述
原本的1000,-400这种奇奇怪怪的数据页没有体现出来,说明这个分布确实合理了(但是这个地方我不知道会不会丢失掉突出数据的数据,很难说)

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
深度学习数据集预处理是深度学习算法中非常重要的一步。数据预处理的目的是为了提高深度学习算法的性能和效果。在数据预处理中,常用的方法包括零均值化(中心化)、数据归一化(normalization)、主成分分析(PCA)和白化(whitening)等。\[1\] 零均值化(中心化)是将数据的均值调整为0,这样可以消除数据的偏差。数据归一化是将数据的范围缩放到一个固定的区间,常用的方法有将数据缩放到0到1之间或者将数据标准化为均值为0,方差为1的分布。主成分分析(PCA)是一种降维的方法,通过线性变换将原始数据映射到一个新的坐标系中,使得新的坐标系中的数据具有最大的方差。白化是对数据进行线性变换,使得变换后的数据具有相互独立且方差为1的特性。 在进行数据预处理时,需要注意一些事项。首先,要根据具体的问题和数据集选择合适的预处理方法。其次,要确保数据预处理的过程不会引入额外的噪声或失去重要的信息。最后,要注意在训练集和测试集上使用相同的数据预处理方法,以保持一致性。 总之,深度学习数据集预处理是提高深度学习算法性能的重要步骤,通过合适的数据预处理方法可以提高算法的准确性和效果。\[2\]\[3\] #### 引用[.reference_title] - *1* *2* *3* [深度学习——数据预处理篇](https://blog.csdn.net/LLyj_/article/details/87606704)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值