sklearn警告：ConvergenceWarning: lbfgs failed to converge (status=1):

问题

这个警告是训练逻辑回归模型的时候出来的。

model=LogisticRegression()
train_model("logistic regression",model,trainxv,trainy,testxv,testy)

结果如下：

ConvergenceWarning: lbfgs failed to converge (status=1):
STOP: TOTAL NO. of ITERATIONS REACHED LIMIT.

解决

上面默认运行了：

LogisticRegression(... solver='lbfgs', max_iter=100 ...)

1.lbfgs问题

lbfgs stand for: “Limited-memory Broyden–Fletcher–Goldfarb–Shanno Algorithm”. It is one of the solvers’ algorithms provided by Scikit-Learn Library.

The term Limited-memory simply means it stores only a few vectors that represent the gradients approximation implicitly.

It has better convergence on relatively small datasets.

2.没有收敛问题

这是说训练模型的时候，参数的迭代次数达到了限制(默认max_iter=100)，但是两次迭代参数变化还是比较大，仍然没有在一个很小的阈值以下，这就叫没有收敛。

不过，这只是一个警告（温馨提示）而已，我们要么选择 1.忽略，要么 2.增大最大迭代次数，要么 3.更换其他的模型或者那个参数solver，要么 4.将数据进行预处理，提取更有用的特征。

我们选择方案2，如下：

model=LogisticRegression(max_iter=1000)
train_model("logistic regression",model,trainxv,trainy,testxv,testy)

我们选择方案3，如下：

model=LogisticRegression(solver="sag")
train_model("logistic regression",model,trainxv,trainy,testxv,testy)

我们选择方案1，忽略一切警告，绝了。如下：

import warnings
warnings.filterwarnings("ignore")

model=LogisticRegression()
train_model("logistic regression",model,trainxv,trainy,testxv,testy)