第一部分:参数说明
(一)、简述
sklearn自带的ensemble模块中集成了GradientBoostingClassifier的类,参数包括:
class
sklearn.ensemble.
GradientBoostingClassifier
(
loss=’deviance’
,
learning_rate=0.1
,
n_estimators=100
,
subsample=1.0
,
criterion=’friedman_mse’
,
min_samples_split=2
,
min_samples_leaf=1
,
min_weight_fraction_leaf=0.0
,
max_depth=3
,
min_impurity_decrease=0.0
,
min_impurity_split=None
,
init=None
,
random_state=None
,
max_features=None
,
verbose=0
,
max_leaf_nodes=None
,
warm_start=False
,
presort=’auto’
) 源代码见
[source]
(二)、参数含义及可取的值
●表示可选参数,★ 表示默认参数
1、
loss
: {‘deviance’, ‘exponential’}, optional (default=’deviance’)---------损失函数
● exponential:模型等同AdaBoost
★ deviance:和Logistic Regression的损失函数一致
2、
learning_rate
: float, optional (default=0.1)--------
学习率(缩减)
注:
即每个弱学习器的权重缩减系数ν,也称作步长,ν的取值范围为0<ν≤1。
3、