一、前言
机器学习的寻找最优超参数是个老大难问题,scikit-learn
提供了网格搜索GridSearchCV
和随机搜索RandomizedSearchCV
这两个函数来帮助寻找这些超参数。
网格搜索的本质就是对参数空间形成的所有参数组合进行一个个的尝试,然后选出得分最高的那个,可能会忽略这些组合以外的参数,同时随着参数的增多,计算量也会指数增加。
随机搜索是对参数的随机搜索,但没有充分利用搜索空间的结构。
skopt
是一个超参数优化库,包括随机搜索、贝叶斯搜索、决策森林和梯度提升树等,用于辅助寻找机器学习算法中的最优超参数。
二、pip下载失败
pip install skopt
三、解决办法
- 先安装
scikit-optimize
pip install scikit-optimize
-
后直接在终端中安装
skopt
成功 -
若不成功,安装
git clone https://bitbucket.org/stanmarkov/skopt/
- 转到skopt目录,执行
pip install --upgrade --user -r requirements.txt -e .
requirements.txt文件用于记录依赖包和版本号,安装其依赖包。
- 安装成功!