pandas 计算IV值方法

def calculateIV(train_data,label_columnName):
    '''
    @description 
    @param label_columnName: column name of label
    @return 
        train_data: pd.DataFrame,include label
        test_data: pd.DataFrame

    '''
    import math
    print("calculate IV")

    # WOE Encode For category column

    columns1 = [i for i in train_data.columns if i != label_columnName] # column names except label column


    # calculate IV value for category column
    IV_value = dict()
    for col in columns1:
        iv_sum  = 0 # 统计每个变量的iv值
        t = train_data[col].unique().tolist() # origin value of category column

        for i in t:

            tmp_count0 = train_data[train_data[col]==i][train_data[label_columnName]==0][col].count()
            tmp_count1 = train_data[(train_data[col]==i) & (train_data[label_columnName]==1)][col].count()
            total_count0 = train_data[train_data[label_columnName]==0][label_columnName].count()  # 所有样本中负样本总数
            total_count1 = train_data[train_data[label_columnName]==1][label_columnName].count()  # 所有样本中正样本总数
            good_pcnt = tmp_count1/total_count1
            bad_pcnt = tmp_count0/total_count0

            k = (good_pcnt+1)/(bad_pcnt+1)

            iv_sum += (good_pcnt-bad_pcnt)*math.log(k)  # calculate IV
        IV_value[col] = iv_sum

    return IV_value




iv_values = calculateIV(iv_data0,"label")
iv_values_sort = sorted(iv_values.items(), key=lambda x: x[1],reverse=True)
arr = [list(i) for i in iv_values_sort]
iv_name_value = pd.DataFrame(np.array(arr),columns=["features","IV"])

WOE编码和IV是一种常用的特征工程方法,它们可以用于衡量一个特征与目标变量之间的关联程度和预测能力。下面是Python计算IV和WOE编码的示例代码: ```python import pandas as pd import numpy as np def calc_woe_iv(df, col, target): """ 计算指定特征的WOE编码和IV :param df: 数据集 :param col: 特征列名 :param target: 目标变量列名 :return: WOE编码和IV """ # 计算该特征每个取的数量和占比 freq = pd.DataFrame({'total': df.groupby(col)[target].count(), 'bad': df.groupby(col)[target].sum()}) freq['good'] = freq['total'] - freq['bad'] freq['bad_rate'] = freq['bad'] / freq['bad'].sum() freq['good_rate'] = freq['good'] / freq['good'].sum() # 防止出现除0错误 freq.loc[freq['bad_rate'] == 0, 'bad_rate'] = 0.0001 freq.loc[freq['good_rate'] == 0, 'good_rate'] = 0.0001 # 计算WOE编码 freq['woe'] = np.log(freq['good_rate'] / freq['bad_rate']) # 计算IV freq['iv'] = (freq['good_rate'] - freq['bad_rate']) * freq['woe'] iv = freq['iv'].sum() return freq[['woe', 'iv']].reset_index().rename(columns={col: 'value'}), iv ``` 这个函数的输入参数包括数据集`df`、特征列名`col`和目标变量列名`target`,输出WOE编码和IV。在函数中,我们首先计算了该特征每个取的数量、坏样本数量、好样本数量、坏样本率、好样本率和WOE,然后根据IV的公式计算了每个取对应的IV,并将它们相加得到总的IV。最后,我们将WOE编码和IV合并成一个DataFrame并返回。 需要注意的是,代码中为了避免出现除0错误,我们在计算WOE编码和IV时对分母加上了一个极小0.0001。同时,WOE编码和IV计算方式可以根据具体的业务需求进行调整。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值