有的时候缺失数据并不是以空值,nan值等出现,它可能以0值,或者unknown、?等出现,这个时候我们要能够发现缺失数据。 其中最难发现的要数0值这种情况了,因为很容易把它当做一个数值类型来进行处理。
我们可以用pandas中DataFrame类的describe方法来看一些这些数值类型特征的最小值,最大值,均值,方差情况,尤其是最小值。在有的特征里面最小是为0,但是通过看特征的意义,可以知道这些值不可能为0,比如体重不可能为0,这个时候这里的0就代表缺失数据。
所以,在采集数据的时候,有空值最好用空出来,或者用nan等表示,用0表示容易出现混乱。