001号坑 missing参数导致:xgb转为pmml格式文件后预测结果与刚训练好的模型预测结果不一致
本人在做风控建模的过程中踩了很多坑,希望在此系列中复现问题,并把解决方案整理于此方便各位同仁解决问题。着急解决问题的朋友可以直接看文章末尾解决方案。
问题描述
一般而言我们在java环境中部署机器学习模型会比较倾向于使用pmml文件,在一次上线部署中发现:使用相同的入参,在Java环境下pmml返回结果与在python环境下刚训练好的模型返回结果不一致。经过一番排查,发现一个大坑:xgb模型的missing参数很容易导致这一问题。
问题原因
xgb为了方便使用者处理缺失值而设置了missing参数,它的作用如下:默认missing=none,这时在模型训练时候把nan认为缺失值;但如果你设置了缺失值例如 missing=-99,那模型训练时会把-99当成缺失值。然后在模型训练的时候缺失值会被当成一个特殊的存在,在每一节点进行判断时,缺失值不会参与分枝节点的大小判断而是直接被一个if missing else 逻辑处理。
我们举一棵树的例子说明一下:
我们先假设传入的featureA等于-99