模型融合

一，大致有三种方法
模型融合是比赛后期一个重要的环节，大体来说有如下的类型方式
1.简单加权融合回归（分类概率）：算术平均融合（ Arithmetic mean），几何平均融合（ Geometric mean）；分类：投票（otng）
综合：排序融合 Rank averaging），log融合
2. stacking/blending : 构建多层横型，并利用预则结果再拟合预则。
3. boosting/bagging（在 xgboost, Adaboost,GBDT中已经用到）多树的提升方法
二，因为刚接触，所以在我认知中就只知道简单加权融合，这个很简单，就是可以设置权重，需要注意的是，权重不宜设置的差距太大，比如一个0.2，一个0.8。
三，stacking融合
先讲下大致原理，就是用n组训练数据训练出n个分类器，然后用这n个分类器在训练出一个分类器，lable就是之前它真实的lable，不过这个次级分类器选用的模型不能太过于复杂，因为过于复杂可能会起到适得其反的作用。
这是算法示意图

四，boosting/bagging多树的提升方法暂时我还不太理解，所以就先不絮叨了，不过下去我会查的，后续我会补上。
五，说一下自己的心得体会，整整一个比赛流程结束了，我收获了很多，也学到了很多以前不知道的知识，从一个完全小白到明白了很多，但这还远远不够，下去我还要做更多，同时参加这次比赛也让我知道了自己的一些缺点，比如代码能力比较弱，即便我有一定的理论知识，但由于代码能力弱，所以很受局限，所以我准备接下来再继续学习机器学习理论知识的同时，也要加强自己的代码能力，不然真的不行，感谢这个组织给我提供的帮助，再次感谢。