数据的预处理——缺失值处理

《1》自己显示对缺失值进行百分比处理,看看每个表中的特征的缺失值的情况

自定义函数的方法:way1

def missing_data(data):
    total = data.isnull().sum().sort_values(ascending = False)
    percent = (data.isnull().sum()/data.isnull().count()*100).sort_values(ascending = False)
    return pd.concat([total, percent], axis=1, keys=['Total', 'Percent'])

自己定义的方法2:

check_null =previous_application.isnull().sum(axis=0).sort_values(ascending=False)/float(len(previous_application)) #查看缺失值比例
print(check_null[check_null > 0.2])

以上两个都是自定义的方法。

下面有可视化的方法去找去缺失值,弊端自己要去数行和运行速度慢,有点就是看来比较高大上的,如果觉得这个实在不好看,可以将以上的百分的那个东西再做一个扇形图之类。

对于缺失值的处理分别三种情况:

(1)删除记录,比较暴力的手段

(2)数据的查补的方法:1.以平均值/中位数/众数插值

                                          2.以固定的值,特征本身自有的属性

                                          3.最近临插值法

                                          4.回归方法

                                          5.拉格朗日插值法

                                          6.牛顿的插值法

                                          7.随机森林

(3)不处理

  • 0
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
缺值计算是数据预处理中非常重要的一部分,它可以帮助我们对缺失的数据进行合理的填充或处理。在C++中,我们可以使用以下方法来计算缺失值: 1. 均值填充:将缺失值用该特征的均值来填充。 2. 中位数填充:将缺失值用该特征的中位数来填充。 3. 众数填充:将缺失值用该特征的众数来填充。 4. 插值填充:通过已知数据点之间的插值来计算缺失值。 下面是一个使用均值填充的实现例子: ```c++ #include <iostream> #include <vector> using namespace std; // 计算均值 double mean(vector<double>& v) { double sum = 0; for (double d : v) { sum += d; } return sum / v.size(); } // 均值填充 void fill_missing_value(vector<vector<double>>& data) { for (int j = 0; j < data[0].size(); j++) { vector<double> v; for (int i = 0; i < data.size(); i++) { if (data[i][j] != -1) { v.push_back(data[i][j]); } } double m = mean(v); for (int i = 0; i < data.size(); i++) { if (data[i][j] == -1) { data[i][j] = m; } } } } int main() { // 构造一个缺失值数据集 vector<vector<double>> data = {{1, -1, 3}, {2, 4, -1}, {5, 6, 7}, {-1, 9, 10}}; // 打印原始数据集 cout << "Original data:" << endl; for (auto& row : data) { for (double d : row) { cout << d << " "; } cout << endl; } // 填充缺失值 fill_missing_value(data); // 打印填充后的数据集 cout << "Data after filling missing values:" << endl; for (auto& row : data) { for (double d : row) { cout << d << " "; } cout << endl; } return 0; } ``` 输出结果为: ``` Original data: 1 -1 3 2 4 -1 5 6 7 -1 9 10 Data after filling missing values: 1 6 3 2 4 6.66667 5 6 7 2.66667 9 10 ``` 可以看到,缺失值被成功地用均值进行填充。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值