sikh_0529的博客

为了充分发挥集成的力量，您需要学习将其有效应用于现实世界的艺术。如果您听说过机器学习中数据整理的 80/20 规则，那么您就会知道在搜索和优化模型之外还花费了大量时间。到本章结束时，您将拥有一组很好的可重用解决方案，可将集成集成到您的真实世界 ML 工作流中。以下是本章的学习目标。使用随机森林模型进行特征选择。特征选择和特征相关性受益于机器学习算法的性能和解释也就不足为奇了。树集合的特征转换。为随机森林回归器构建预处理管道。隔离森林，一种用于异常值检测的有效算法，尤其是在高维数据集中。

使用高质量的库可以加快初始开发速度，减少错误，减少重新发明轮子的情况，并降低长期维护成本。鉴于机器学习本质上是实验性的，库可以实现快速且可维护的实验。本章的目标是介绍 ML-Ensemble，这是一个基于 Python 的开源库，它包装了 scikit 集成类以提供高级 API。通过 Dask 扩展 XGBoost，Dask 是一个灵活的 Python 并行计算库。Dask 和 XGBoost 可以协同工作以并行训练梯度提升树。学习使用 Microsoft LightGBM 进行提升。

在前面的章节中，我们讨论了如何混合训练数据，以及如何混合机器学习模型来创建更强大的模型——利用集成学习的力量。让我们继续这个学习过程。在本章中，我们介绍并解释了两种强大的集成学习技术，它们利用机器学习模型的混合组合来构建更强大的模型。我们一次处理一个不同的组合。以下是本章的目标。介绍和解释boosting检查如何使用 scikit-learn 实现提升介绍和解释堆叠检查如何使用 scikit-learn 实现提升看看其他混合组合的例子。

在第2章中，您学习了如何以不同方式划分和混合训练数据以构建集成模型，其性能优于在未划分数据集上训练的模型。在本章中，您将学习不同的组装方法。与混合训练数据方法不同，混合模型方法在不同的机器学习模型中使用相同的数据集，然后以不同的方式组合结果以获得性能更好的模型。首先，让我们看看本章的目标。介绍和解释基于集成的混合模型引入投票合奏通过代码示例介绍和解释软硬投票合奏了解超参数调优集成检查使用随机森林调整超参数的示例实现了解横向投票合奏。

在第1章中，您了解了数据科学家的角色如何类似于一位小提琴手，他使用他的管弦乐队和乐器合奏来创作一首优美的乐曲。同样，如果数据科学家想从他的数据和模型中挤出世界级的性能，他可以使用多种集成工具。在本章中，主要目标是学习混合训练数据以获得集成模型的不同方法。以下是本章的目标。建立对混合训练数据如何在集成学习中取得良好表现的直观理解引入决策树查看使用 scikit-learn 的决策树实现示例引入随机森林作为决策树的集合了解采样数据集和两种变体：使用代码示例进行无放回采样和有放回采样。

根据剑桥词典，合奏被定义为作为一个整体行动或采取行动的一组事物或人。合奏这个词最初是在经常一起演奏的音乐家的背景下使用的。音乐家的合奏是多位音乐家的个人作品的总和。同样，在机器学习中，集成学习是多种机器学习技术的结合。集成学习正迅速成为提高数据科学机器学习模型准确性的首选标准。集成方法通过以许多有趣的方式组合机器学习模型的输出来做到这一点；就像一群音乐家以多种不同的方式结合他们的个人表演来实现伟大的作品。