天池学习笔记
文章平均质量分 68
咩神烦
这个作者很懒,什么都没留下…
展开
-
机器学习训练营LightGBM学习笔记
学习知识点概要 1.LightGBM 2.LightGBM的实现 学习内容 1.LightGBM LightGBM可以看作是XGBoost的升级豪华版,在获得与XGBoost近似精度的同时,又提供了更快的训练速度与更少的内存消耗。 其优缺点和XGBoost相似 LightGBM底层实现了GBDT算法,并且添加了一系列的新特性: 基于直方图算法进行优化,使数据存储更加方便、运算更快、鲁棒性强、模型更加稳定等。 提出了带深度限制的 Leaf-wise 算法,抛弃了大多数GBDT工具使用的按层生长原创 2021-12-02 17:38:18 · 1125 阅读 · 0 评论 -
机器学习训练营XGBoost学习笔记
学习知识点概要 1. 什么是XGBoost 2. 如何用XGBoost实现分类 学习内容 1.XGBoost 对GBDT算法的整合包,并行运行决策树,鲁棒性强 XGBoost的主要缺点: 相对于深度学习模型无法对时空位置建模,不能很好地捕获图像、语音、文本等高维数据。 在拥有海量训练数据,并能找到合适的深度学习模型时,深度学习的精度可以遥遥领先XGBoost。 这里特别注意其在特征工程中也有很大作用 2.分类 填补缺失值 对离散变量编码[0,len(X)-1],这里将地区转化为数字表示原创 2021-12-02 13:55:10 · 1405 阅读 · 0 评论 -
机器学习训练营逻辑回归分类预测学习笔记
# 1.学习知识点概要 1.1 逻辑回归 1.2 python的逻辑回归实现 # 2.学习内容 主要学习了逻辑回归的基本公式和概念,然后实践了逻辑回归的简单应用(以iris数据库为例子)。内容比较简单之前都有接触过。 ### 逻辑回归(LR) Logistic回归是一种分类方法,主要用于两分类问题(binary problem),所以利用了Logistic函数(或称为Sigmoid函数),函数形式为: $$ logi(z)=\frac{1}{1+e^{-z}} $$ Logistic 函数是单..原创 2021-12-01 17:52:09 · 1059 阅读 · 0 评论