XGBoost介绍
XGBoost (Extreme Gradient Boosting)是一种基于梯度提升决策树的机器学习算法。它是一种高效、灵活和可扩展的技术,而且在许多机器学习竞赛中都表现出色。该算法的主要思想是通过构建多个决策树模型来逐步改进预测结果,每一次迭代都会针对之前模型预测错误的部分进行改进。XGBoost 使用正则化技术避免过拟合,并支持并行计算加速训练过程。此外,它还提供了特征重要性评估、缺失值处理、交叉验证等功能。
库下载
首先,需要安装xgboost和DEAP库,由于pip安装较慢,可以在命令行中输入如下指令进行快速安装,该部分可以参考大神的博文Python:pip 安装第三方库速度很慢的解决办法,以及离线安装方法
pip install -i https://pypi