- 博客(2)
- 收藏
- 关注
原创 模型融合
模型融合 #1 Kaggle和天池比赛中常用提高成绩的三种方法: 1.特征工程 2.模型调参 3.模型融合 模型融合主要有以下几种方式: 简单加权融合: ①回归(分类概率):算术平均融合(Arithmetic mean),几何平均融合(Geometric mean); ②分类:投票(Voting) ③综合:排序融合(Rank averaging),log融合 stacking/blending: 构建多层模型,把初级学习器的输出当作下一层的输入。 boosting/bagging(在xgboos
2021-04-24 23:52:33 597
原创 20210326公众号
LightGBM调参 1. 经验法: 往两个方向调: 1.提高准确率:max_depth, num_leaves, learning_rate 2.降低过拟合:max_bin, min_data_in_leaf;L1, L2正则化;数据抽样, 列采样 1.使用较小的num_leaves,max_depth和max_bin,降低复杂度。 2.使用min_data_in_leaf和min_sum_hessian_in_leaf,该值越大,模型的学习越保守。 3.设置bagging_freq和bagging_
2021-04-22 22:52:37 88 1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人