- 博客(2)
- 收藏
- 关注
原创 模型融合
模型融合 #1Kaggle和天池比赛中常用提高成绩的三种方法:1.特征工程2.模型调参3.模型融合模型融合主要有以下几种方式:简单加权融合:①回归(分类概率):算术平均融合(Arithmetic mean),几何平均融合(Geometric mean);②分类:投票(Voting)③综合:排序融合(Rank averaging),log融合stacking/blending:构建多层模型,把初级学习器的输出当作下一层的输入。boosting/bagging(在xgboos
2021-04-24 23:52:33 601
原创 20210326公众号
LightGBM调参1. 经验法:往两个方向调:1.提高准确率:max_depth, num_leaves, learning_rate2.降低过拟合:max_bin, min_data_in_leaf;L1, L2正则化;数据抽样, 列采样1.使用较小的num_leaves,max_depth和max_bin,降低复杂度。2.使用min_data_in_leaf和min_sum_hessian_in_leaf,该值越大,模型的学习越保守。3.设置bagging_freq和bagging_
2021-04-22 22:52:37 91 1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人