【机器学习】【提升方法-BoostingTree-4】回归问题的提升树的Python实现

最新推荐文章于 2024-06-21 13:43:09 发布

CV_ML_DP

最新推荐文章于 2024-06-21 13:43:09 发布

阅读量1.4k

点赞数 2

分类专栏：人工智能机器学习跟我一起学机器学习 Machine Learning

本文链接：https://blog.csdn.net/u012421852/article/details/80277284

版权

本文详细介绍了回归问题的BoostingTree算法，并提供了Python实现。文章强调在实现过程中避免使用for循环，转而采用向量化的操作，如lambda函数结合np.frompyfunc。此外，展示了精简后的Python代码及运行结果。

摘要由CSDN通过智能技术生成

1.回归问题的BoostingTree学习算法的详解和数学求解过程

回归问题的BoostingTree学习算法的生成过程详解、以及示例讲解数学求解的详细过程，可以详见上篇博客：

https://blog.csdn.net/u012421852/article/details/80275534

2.回归问题BoostingTree学习算法的Python实现

2.1能不用for，就不要用for

在python实现时，能不用for或者[for]就不要用~，尽量用向量法实现循环的操作步骤。

多考虑：（1）用lambda + np.frompyfunc的数组化操作

（2）用lambda + lambda + np.frompyfunc实现多层数组化操作，比如下面提供的提升树的回归函数方法Regress()

2.2精简后的python代码

# -*- coding: utf-8 -*-
"""
@author: 蔚蓝的天空
Aim:(Python向量法)实现生成回归问题Boosting Tree
"""
import numpy as np
class CBoostingTree(object):
    '''
    实现回归问题提升树(Boostring Tree)学习算法
    学习给定训练样本集的回归问题的提升树模型，考虑只用树桩作为基函数
    '''
    def __init__(self, train_samples, max_err):
        ''' class init function
        :param train_samples:训练样本集
        :param max_err:提升树拟合训练数据的平方损失误差允许的最大误差值
        '''
        self.Samples = train_samples