点击上方“Datawhale”,选择“星标”公众号
第一时间获取价值内容
本文将对数据竞赛的『技巧』进行全面的总结,同时还会分享下个人对比赛方法论的思考。前者比较客观,总结了不同数据类型下涉及到的比赛技巧;后者稍微主观,是我个人对解决比赛思路的总结。
2019年下半年对我触动很大的两个知识分享是:
志峰现场讲解的《Tricks in Data Mining Competitions 》
鱼佬知识星球分享的《Kaggle数据竞赛知识体系》
注: 这两个分享的原始资料,不要向我要,我没有所有权。
碰巧最近也想将一些知识点整理下,本文将会参考上述两个分享的结构来整理我个人的知识点。当然我整理的会比较杂,会按照讨论点进行整理。
1 数据竞赛的流程
这是老生常谈的话题:数据分析主要目的是分析数据原有的分布和内容;特征工程目的是从数据中抽取出有效的特征;模型训练与验证部分包括数据划分的方法以及数据训练的方法;模型融合部分会简介模型融合的方法和实现方式。
![640?wx_fmt=png](https://img-blog.csdnimg.cn/img_convert/f5f52e4f4e4aa82740363e78ff53dded.png)
我想表达的是:虽然数据挖掘在流程上可以看成是瀑布式的,但各个流程相互影响:比如数据分析可以挖掘出数据的分布规律,可以指导特征工程;特征的验证又可以反馈数据分析的结果。所以在实际比赛过程中这个流程是反复循环的,并不是一蹴而就的。
![640?wx_fmt=jpeg](https://img-blog.csdnimg.cn/img_convert/cab2129621ef7427ff9a70ee96267462.png)
数据挖掘是一个循环的过程,并不是瀑布式的
一个特征不是拍脑袋想的&#x