AdaBoost回归
(1)代码解读
sklearn.ensemble.AdaBoostRegressor(estimator=None, *, n_estimators=50, learning_rate=1.0, loss=‘linear’, random_state=None, base_estimator=‘deprecated’)
咋一看,跟AdaBoostClassifier(用于分类,上传送门)参数也差不多,因此,我们列举出它们相同和不同的地方,便于对比记忆:
共同的参数:
base_estimator: 基估计器用于训练弱学习器。如果为 None,分类器默认使用决策树分类器,而回归器默认使用决策树回归器。
n_estimators: 最大的弱学习器数量。
learning_rate: 按指定的学习率缩小每个弱学习器的贡献。
random_state: 随机数生成器的种子或随机数生成器。
algorithm: 用于 AdaBoost 算法的执行版本。在分类器中是 {“SAMME”, “SAMME.R”},在回归器中只有 “SAMME”。
差异:
AdaBoostClassifier 特有参数:
algorithm: 可选的执行算法可以是 “SAMME” 或 “SAMME.R”。默认为 “SAMME.R”。其中 “SAMME.R” 是 “SAMME” 的实值版本,它通常表现得更好,因为它依赖于类别概率,而不是类别预测。
AdaBoostRegressor 特有参数:
loss: 在增加新的弱学习器时用于更新权重的损失函数。可选的值包括 ‘linear’, ‘square’, 和 ‘exponential’。</