集成学习作业Task01

集成学习作业Task01

本文为Datawhale组队学习项目——集成学习的作业Task

相关视频
相关资料

作业1

在这里插入图片描述
第一问:

通过代码验证 a a a对于图像的形状没有影响, b b b则会根据 b < 0 、 b = 0 、 b > 0 b<0、b=0、b>0 b<0b=0b>0三种情况,出现三种图像。如下图所示。

b>0b=0b<0
在这里插入图片描述在这里插入图片描述在这里插入图片描述

作业2,采用牛顿法计算极值点,迭代500次,步长取0.1,代码:

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
import time
%matplotlib inline
from mpl_toolkits.mplot3d import Axes3D

##Rosenbrock函数
class Rosenbrock():
    def __init__(self,a,b):
        #确定数值范围
        self.x1 = np.arange(-100, 100, 0.0001)
        self.x2 = np.arange(-100, 100, 0.0001)
        #self.x1, self.x2 = np.meshgrid(self.x1, self.x2)
        self.a = a
        self.b = b
        
        self.newton_times = 1000
        self.answers = []
        self.min_answer_z = []


    # 准备数据
    def data(self):
        z = np.square(self.a - self.x1) + self.b * np.square(self.x2 - np.square(self.x1))
        #print(z.shape)
        return z

    # 随机牛顿
    def snt(self,x1,x2,z,alpha):
        #取出随机点
        rand_init = np.random.randint(0,z.shape[0])
        x1_init,x2_init,z_init = x1[rand_init],x2[rand_init],z[rand_init]
        x_0 =np.array([x1_init,x2_init]).reshape((-1,1))
        #print(x_0)

        
        #迭代求解
        for i in range(self.newton_times):
            x_i = x_0 - alpha*np.matmul(np.linalg.inv(np.array([[(12*x1_init**2-4*x2_init)*self.b-2*self.a,-4*x1_init*self.b],
                                                          [-4*x1_init*self.b,2*self.b]])),
                                  np.array([(4*x1_init**3-4*x1_init*x2_init+2*x1_init)*self.b-2*self.a,
                                            (-2*x1_init**2+2*x2_init)*self.b]).reshape((-1,1)))
            x_0 = x_i
            x1_init = x_0[0,0]
            x2_init = x_0[1,0]
        answer = x_0
        return answer


    # 绘图
    def plot_data(self,min_x1,min_x2,min_z):
        x1 = np.arange(-100, 100, 0.1)
        x2 = np.arange(-100, 100, 0.1)
        x1, x2 = np.meshgrid(x1, x2)
        a = self.a
        b = self.b
        z = np.square(a - x1) + b * np.square(x2 - np.square(x1))
        fig4 = plt.figure()
        ax4 = plt.axes(projection='3d')
        ax4.plot_surface(x1, x2, z, alpha=0.3, cmap='winter')  # 生成表面, alpha 用于控制透明度
        ax4.contour(x1, x2, z, zdir='z', offset=-3, cmap="rainbow")  # 生成z方向投影,投到x-y平面
        ax4.contour(x1, x2, z, zdir='x', offset=-6, cmap="rainbow")  # 生成x方向投影,投到y-z平面
        ax4.contour(x1, x2, z, zdir='y', offset=6, cmap="rainbow")  # 生成y方向投影,投到x-z平面
        ax4.contourf(x1, x2, z, zdir='y', offset=6, cmap="rainbow")  # 生成y方向投影填充,投到x-z平面,contourf()函数
        ax4.scatter(min_x1,min_x2,min_z,c='r')
        # 设定显示范围
        ax4.set_xlabel('X')
        ax4.set_ylabel('Y')
        ax4.set_zlabel('Z')
        plt.show()

    # 开始
    def start(self):
#         times = int(input("请输入需要随机优化的次数:"))
        times=500
#         alpha = float(input("请输入随机优化的步长"))
        alpha=0.1
        z = self.data()
        start_time = time.time()
        for i in range(times):
            answer = self.snt(self.x1,self.x2,z,alpha)
            self.answers.append(answer)
        min_answer = np.array(self.answers)
        for i in range(times):
            self.min_answer_z.append((1-min_answer[i,0,0])**2+(min_answer[i,1,0]-min_answer[i,0,0]**2)**2)
        optimal_z = np.min(np.array(self.min_answer_z))
        optimal_z_index = np.argmin(np.array(self.min_answer_z))
        optimal_x1,optimal_x2 = min_answer[optimal_z_index,0,0],min_answer[optimal_z_index,1,0]
        print("极值点,x1=",optimal_x1,"x2=",optimal_x2)
        end_time = time.time()
        running_time = end_time-start_time
        print("优化的时间:%.2f秒!" % running_time)
        self.plot_data(optimal_x1,optimal_x2,optimal_z)

取a=1,b=1和a=-1,b=1,分别计算极值点,

if __name__ == '__main__':
    snt = Rosenbrock(1,1)
    snt.start()
    
    snt = Rosenbrock(-1,1)
    snt.start()

得到结果
在这里插入图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
在Matlab中,可以使用集成学习工具箱来实现集成学习集成学习是通过将多个个体学习器的预测结果进行组合,从而获得更好的预测性能的一种机器学习方法。集成学习方法包括Boosting、Bagging和随机森林。 对于Boosting方法,它的工作机制是通过迭代训练一系列的基学习器,在每一轮迭代中根据前一轮基学习器的表现对训练样本的分布进行调整,使得先前做错的样本得到更多关注,从而最终将多个基学习器进行加权结合。 Bagging方法则是基于自助采样法,通过多次随机有放回地从原始训练集中抽取样本构建多个训练集,然后在每个训练集上训练一个基学习器,最后将这些基学习器进行结合。 而随机森林是在Bagging的基础上进一步引入了随机属性选择的方法。具体来说,在决策树的构建过程中,随机森林会在每个节点从一个随机选择的子集中选择最优属性进行划分。 综上所述,Matlab中的集成学习工具箱提供了多种集成学习方法的实现,包括Boosting、Bagging和随机森林,可以根据具体需求选择合适的方法来进行集成学习的建模和预测。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *3* [MATLAB如何搭建集成学习分类器](https://blog.csdn.net/weixin_43249038/article/details/120467746)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *2* [matlab 集成学习,集成学习](https://blog.csdn.net/weixin_30290131/article/details/115960538)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值