sklearn API算法基础（决策树、随机森林）

已于 2022-07-19 21:03:47 修改
阅读量839 收藏 1
点赞数
分类专栏： Python笔记 文章标签： 决策树 算法 sklearn
于 2022-07-19 19:36:43 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_46955575/article/details/125876313
版权

目录

1.决策树划分依据

1.1.sklearn决策树API

1.2 数据

1.3决策树结构本地保存

 1.4 决策树案例  泰坦尼克号乘客生存分类

1.5决策树优缺点

2. 随机森林

2.1 随即森林建立多个决策树的过程

2.2 随机森林API（集成学习）

 2.3 案例

2.4随机森林优点

1.决策树划分依据

信息增益 

基尼系数（划分更仔细）

ID3：信息增益 最大的准则

C4.5：信息增益比 最大的准则

CART：

回归树: 平方误差 最小

分类树: 基尼系数   最小的准则 在sklearn中可以选择划分的原则

1.1.sklearn决策树API

1.2 数据

数据：http://biostat.mc.vanderbilt.edu/wiki/pub/Main/DataSets/titanic.txt

1.3决策树结构本地保存

 1.4 决策树案例  泰坦尼克号乘客生存分类

graphviz安装包以及原数据下载地址：

graphviz安装程序以及泰坦尼克号乘客数据.rar-机器学习文档类资源-CSDN下载


                

        

        

    




        

            

                    
                      最低0.47元/天 解锁文章
                        
                    
            

        

    

      

        

            

              
                
                  自然color
                
              
            

            

                关注
              
            

        

        

          
    
            
  • 
              
                
                
                
                
                      0
                
              
              
    点赞
    
            
    • 
            
  • 
              
                
                
                
              
              
    踩
    
            
    • 
            
  • 
              
                
                
                
                
                    1
                
              
              
    
                
    
                  
                    收藏
                  
                
    
              
    
              
    
                
    
                  觉得还不错?
                  
                    一键收藏
                  
                 
                
    
              
    
            
    • 
          
  • 
            
    
              
              
            
    
              
              
              
                    0
              
            
            
    评论
    
          
    • 
          
  • 
          
    • 
          
  • 
            
              
            
              
    
            
              
                
            
    
          
    • 
        

      

      

            

                专栏目录
          










                



	

		

			

				
					
Sklearn常用API以及代码

				
			

			

				

					马老师的博客
				

				

					10-05
					
					932
					
				

			

		

		

			
				
Sklearn常用API及代码实现

			
		

	



                

              
                



	

		

			

				
					
sklearn API 文档 - 0.18 中文翻译

				
			

			

				

					weixin_33757609的博客
				

				

					07-11
					
					661
					
				

			

		

		

			
				
为什么80%的码农都做不了架构师？>>> 
                                        
                ...

			
		

	



                


  
              

                


	

		

			

				
					
随机森林算法

				
			

			

				

					m0_54634272的博客
				

				

					07-04
					
					431
					
				

			

		

		

			
				
随机森林算法

			
		

	





	

		

			

				
					
机器学习基础 决策树算法

				
			

			

				

					mengxianglong123的博客
				

				

					05-30
					
					4890
					
				

			

		

		

			
				
文章目录一、决策树算法简介二、决策树分类原理1. 熵1.1 概念1.2 案例2. 决策树的划分依据一----信息增益2.1 概念2.2 案例3. 决策树的划分依据二----信息增益率3.1 概念3.2 案例3.2.1 案例一3.2.2 案例二3.3 为什么使用C4.5要好4. 决策树的划分依据三 ----基尼值和基尼指数4.1 概念4.2 案例5. 小结5.1 常见决策树的启发函数比较5.1.1 ID3 算法5.1.2 C4.5算法5.1.3 CART算法5.1.4 多变量决策树(multi-variate

			
		

	



		

			
		



	

		

			

				
					
Sklearn数据集API介绍

				
			

			

				

					jq_98的博客
				

				

					06-01
					
					652
					
				

			

		

		

			
				
1 scikit-learn数据集API介绍
from sklearn.datasets import *
1、获取小规模数据集，数据包含在datasets里
datasets.load_*()
2、获取大规模数据集，需要从网络上下载，函数的第一个参数是data_home，表示数据集下载的目录,默认是 ~/scikit_learn_data/
datasets.fetch_*(data_home=None)
eg：sklearn.datasets.load_iris()：加载并返回鸢尾花数据集
sklear

			
		

	





	

		

			

				
					
月亮数据预测(决策树和随机森林算法).zip

				
			

			

				

					05-17
				

			

		

		

			
				
在本项目中，我们主要探讨的是使用决策树和随机森林这两种机器学习算法对月亮数据进行预测。这是一项涉及数据科学和机器学习的任务，通常应用于数据分析、模式识别和预测建模等领域。下面将详细介绍这两个算法以及...

			
		

	





	

		

			

				
					
决策树、随机森林
用泰坦尼克号事件的数据集练习一下决策树和随机森林的API

					
最新发布

				
			

			

				

					05-17
				

			

		

		

			
				
决策树和随机森林是两种广泛应用于机器学习领域的分类与回归方法。它们在处理复杂数据集时表现出色，尤其适用于特征间存在非线性关系的情况。接下来，我们将详细探讨这两种算法及其在泰坦尼克号数据集上的应用。  ...

			
		

	





	

		

			

				
					
随机森林算法quick-start代码,python机器学习.zip

				
			

			

				

					09-24
				

			

		

		

			
				
随机森林的原理是通过引入随机性来创建多样性的决策树，这些树之间的相关性较低，从而减少了过拟合的风险。  在Python中，实现随机森林算法最常用的库是Scikit-Learn。Scikit-Learn提供了一个简洁易用的API，使得...

			
		

	





	

		

			

				
					
什么是机器学习分类算法？【K-近邻算法(KNN)、交叉验证、朴素贝叶斯算法、决策树、随机森林】.doc

				
			

			

				

					07-09
				

			

		

		

			
				
本文将介绍五种常见的机器学习分类算法：K-近邻算法（KNN）、交叉验证、朴素贝叶斯算法、决策树以及随机森林。  1. **K-近邻算法（KNN）**  - **定义**：KNN 是一种基于实例的学习，它将新样本分类为其最近的 k 个...

			
		

	





	

		

			

				
					
pyspark 随机森林的实现

				
			

			

				

					09-17
				

			

		

		

			
				
在机器学习领域，随机森林（Random Forest）是一种强大的有监督学习算法，它可以处理分类和回归问题。随机森林通过构建大量的决策树并结合它们的预测结果来做出最终的决策。在pyspark中，我们可以利用`pyspark.ml....

			
		

	





	

		

			

				
					
sklearn api

				
			

			

				

					zzb5233的专栏
				

				

					02-22
					
					361
					
				

			

		

		

			
				
Chapter 2 – End-to-end Machine Learning project
1. Setup：同上忽略
2. Get the data：
#获取数据
housing = load_housing_data()
housing.head()
 
#数据集划分的几种方法：
1. 利用下标，选择对应行数据，区分train、test。
2. crc32、hashlib等接口。
3. 使...

			
		

	





	

		

			

				
					
sklearn.metrics模块重要API的原理与应用总结（持续更新）

				
			

			

				

					 November、Chopin
				

				

					11-24
					
					3413
					
				

			

		

		

			
				
sklearn.metrics API总结

			
		

	





	

		

			

				
					
随机森林算法学习(RandomForest)

					
热门推荐

				
			

			

				

					Eason的博客
				

				

					10-21
					
					16万+
					
				

			

		

		

			
				
随机森林算法学习最近在做kaggle的时候，发现随机森林这个算法在分类问题上效果十分的好，大多数情况下效果远要比svm，log回归，knn等算法效果好。因此想琢磨琢磨这个算法的原理。要学随机森林，首先先简单介绍一下集成学习方法和决策树算法。下文仅对该两种方法做简单介绍（具体学习推荐看统计学习方法的第5章和第8章）。Bagging和Boosting的概念与区别该部分主要学习自：http://www.c

			
		

	





	

		

			

				
					
随机森林 RandomForest

				
			

			

				

					平凡简单的执着
				

				

					03-09
					
					1979
					
				

			

		

		

			
				
1、集成学习
集成学习(ensemble learning)可以说是现在非常火爆的机器学习方法了。它本身不是一个单独的机器学习算法，而是通过构建并结合多个机器学习器来完成学习任务。也就是我们常说的“博采众长”。集成学习可以用于分类问题集成，回归问题集成，特征选取集成，异常点检测集成等等。在现在的各种算法竞赛中，随机森林，梯度提升树（GBDT），Xgboost等集成
算法的身影也随处可见。
更多关于...

			
		

	





	

		

			

				
					
随机森林（Random Forest）算法梳理

				
			

			

				

					the_harder_to_love的博客
				

				

					04-04
					
					1235
					
				

			

		

		

			
				
随机

训练数据随机，有放回地从N个数据随机抽样n个
特征选择随机，随机选取m个特征，作为分类特征
将整个数据集以矩阵形式存储，相当于随机取n行，取m列

森林

构造多个决策树，实践默认为100
以决策树的表决结果决定随机森林的结果

随机森林既能解决分类问题，也能解决回归问题（不常用，存在数值跳动问题）
模型评估

每次随机选择数据和特征构造一颗决策树，会存在1/e的包外数据
使用这部分数据作...

			
		

	





	

		

			

				
					
Scikit-learn Preprocessing 预处理

				
			

			

				

					D.W 的专栏
				

				

					10-25
					
					4万+
					
				

			

		

		

			
				
本文主要是对照scikit-learn的preprocessing章节结合代码简单的回顾下预处理技术的几种方法，主要包括标准化、数据最大最小缩放处理、正则化、特征二值化和数据缺失值处理。内容比较简单，仅供参考！首先来回顾一下下面要用到的基本知识。一、知识回顾均值公式：x¯=1nΣ_i=1nxi\bar{x}=\frac{1}{n}\Sigma\_{i=1}^{n}x_{i}方差公式：s2=1nΣ_i

			
		

	





	

		

			

				
					
API详解:sklearn.linear_model.LinearRegression

				
			

			

				

					Sehr Gut
				

				

					03-07
					
					2万+
					
				

			

		

		

			
				
基于最小二乘法的线性回归。非常基础。那么相应的API 的调用参数有哪些呢？

调用方法： 老套路，先定义一个线性回归对象

lr = sklearn.linear_model.LinearRegression(fit_intercept=True, normalize=False, copy_X=True, n_jobs=1)

fit_intercept : 默认为True,是否计算该模型的截距...

			
		

	





	

		

			

				
					
决策树——分类——鸢尾花（调用api）

				
			

			

				

					WJWFighting的博客
				

				

					07-15
					
					860
					
				

			

		

		

			
				
import numpy as np
from sklearn.tree import DecisionTreeClassifier
from sklearn import  datasets
from sklearn import  cross_validation
import matplotlib.pyplot as plt
%matplotlib inline
from sklearn.m...

			
		

	





	

		

			

				
					
python CART决策树API简介与示例

				
			

			

				

					bug永流传
				

				

					01-19
					
					624
					
				

			

		

		

			
				
Cart（Classification And Regression Tree）决策树作为决策树算法分支的一条，是一类可用于分类与回归的非线性模型。其在python中的接口为from sklearn.tree import DecisionTreeClassifier
首先查看DecisionTreeClassifier都有哪些参数
DecisionTreeClassifier?
Init sig...

			
		

	





	

		

			

				
					
sklearn的回归

				
			

			

				

					07-28
				

			

		

		

			
				
4. 随机森林回归：利用多个决策树构建的集成模型，例如RandomForestRegressor。 5. 梯度提升回归：通过迭代训练决策树模型来提升预测性能，例如GradientBoostingRegressor。 6. K近邻回归：基于最近邻样本的加权平均...

			
		

	



              




          




        



    





    



      

      

        
      

      





	

		评论	
	

	
	




  

    

      添加红包
      
    

    

      

        
        

          
          
        

        
请填写红包祝福语或标题

      

      

        
        

          
          个
        

        
红包个数最小为10个

      

      

        
        

          
          元
        

        
红包金额最低5元

      

      

        
        

          当前余额3.43元
          前往充值 >
        

      

      

        

          需支付：10.00元
        

        
        
      

    

  





  

    
    
  

  

    
    
  








  

    

      

        

          

            
            
成就一亿技术人!

          

          

        

        

          

          

            领取后你会自动成为博主和红包主的粉丝
            规则
          

        

      

      

        

          

            
              
            
            

              
hope_wisdom
 发出的红包
            

          

        

        

          

          

          

        

      

    

    

  



      
      

      
实付元

      
使用余额支付

      

        

          

            
            点击重新获取
          

        

        
扫码支付

      

      

        
          
            
          
          
        
      

      

        
        钱包余额
          0
          

            
            

              

                
抵扣说明：

                
 1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

              

            

          

      

      余额充值