机器学习
forestForQuietLive
这个作者很懒,什么都没留下…
展开
-
随机森林算法梳理
一、集成学习概念:集成学习(ensemble learning)通过构建并结合多个学习器来完成学习任务,有时也被称为多分类器系统(multi-classifier system)。集成学习将个体学习器采用某种策略结合。个体学习器通常由现有的学习算法从训练数据产生。如决策树、BP神经网络等。集成中只包含同一种个体学习器叫做同质集成(homogeneous ensemble);集成中的个体学习...原创 2019-03-01 16:50:32 · 2171 阅读 · 0 评论 -
GBDT算法梳理
GBDT有很多简称,有GBT(Gradient Boosting Tree),GTB(Gradient Tree Boosting),GBRT(Gradient Boosting Regression Tree), MART(Multiple Additive Regression Tree),其实都是指的同一种算法。加法模型:一、前向分布算法其中, 为基函数, 为基函数...原创 2019-04-07 14:24:59 · 481 阅读 · 0 评论 -
GBDT回归树代码实现(统计学习方法例子)
给出提升回归树算法的具体步骤:2.2 举个栗子(统计学习方法P149)代码实现:import numpy as npimport math'''Input: x,y,splint_point_array(该特征的所有切分点)Output:minloss(所有切分点中最小损失),最优切分点,残值数组(下一次在此基础进行拟合)'''def findBe...原创 2019-04-16 16:05:02 · 1587 阅读 · 0 评论 -
DBSCAN密度聚类
def distance(data): m, n = np.shape(data) dis = np.mat(np.zeros((m, m))) for i in range(m): for j in range(i, m): # 计算i和j之间的欧式距离 tmp = 0 for k ...原创 2019-08-24 16:57:02 · 169 阅读 · 0 评论