机器学习特征稳定性评估-分布式scala实现

最新推荐文章于 2022-11-16 22:16:21 发布

泰格数据

最新推荐文章于 2022-11-16 22:16:21 发布

阅读量1.6k

点赞数

分类专栏：模型评估机器学习算法文章标签： spark 模型评估机器学习稳定性分布式评估

本文链接：https://blog.csdn.net/xiefu5hh/article/details/106462402

版权

本文介绍了机器学习模型的稳定性评估，特别是在工业界中对线上模型监控的重要性。通过分布式Scala实现，针对特征和结果的稳定性进行评估，并提供公式、实例及输入需求的详细说明，强调了分布式计算在处理大量数据时的优势。

摘要由CSDN通过智能技术生成

泰格：

士别三日当刮目相待，模型也一样，客流不断变化，特征的分布不断变化，模型的结果分布也会受到影响。所以在工业界中，对线上模型的监控是非常重要的。

考察稳定性最好的办法就是抽取另一个时间窗口的数据（最好是最新时间的数据），通过模型在这些新数据上的表现来与之前在训练集和测试集上的表现进行比较，看模型的稳定性，其效果衰减幅度是否可以接受，如果条件许可，最好用几个不同时间窗口的数据分别进行观察比较。

PSI = sum（（实际占比-预期占比）* ln（实际占比/预期占比））

关注