L8：机器学习｜随机森林学习记录

最新推荐文章于 2024-09-26 11:05:19 发布
最新推荐文章于 2024-09-26 11:05:19 发布
阅读量932 收藏 12
点赞数 10
文章标签： 机器学习 随机森林 学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_74907726/article/details/142406524
版权

第L8周：机器学习｜随机森林学习记录

随机森林(Random Forest)是一种集成学习方法，用于解决分类和回归问题。随机森林是一个包含多个决策树的分类器，并且其输出的类别是由个别树输出的类别的众数而定。

实例：利用一个人工合成的天气数据集，模拟了雨天、晴天、多云和雪天四种类型

异常值处理————描述性统计————构建随机森林模型进行预测————生成了模型的重要特征图

导入库

import pandas as pd
import numpy as np
import seaborn as sns
import matplotlib.pyplot as plt
from sklearn.preprocessing import LabelEncoder
from sklearn.model_selection import train_test_split
from sklearn.ensemble import RandomForestClassifier
from sklearn.metrics import classification_report

数据读取

data = pd.read_csv(r"E:\文件\python学习\K同学啊 365\数据\weather_classification_data.csv")
data
TemperatureHumidityWind SpeedPrecipitation (%)Cloud CoverAtmospheric PressureUV IndexSeasonVisibility (km)LocationWeather Type
014.0739.582.0partly cloudy1010.822Winter3.5inlandRainy
139.0968.571.0partly cloudy1011.437Spring10.0inlandCloudy
230.0647.016.0clear1018.725Spring5.5mountainSunny
338.0831.582.0clear1026.257Spring1.0coastalSunny
427.07417.066.0overcast990.671Winter2.5mountainRainy
....................................
1319510.07414.571.0overcast1003.151Summer1.0mountainRainy
13196-1.0763.523.0cloudy1067.231Winter6.0coastalSnowy
1319730.0775.528.0overcast1012.693Autumn9.0coastalCloudy
131983.07610.094.0overcast984.270Winter2.0inlandSnowy
13199-5.0380.092.0overcast1015.375Autumn10.0mountainRainy

13200 rows × 11 columns

数据检查与预处理

# 查看数据信息
data.info()

<class 'pandas.core.frame.DataFrame'>
RangeIndex: 13200 entries, 0 to 13199
Data columns (total 11 columns):
 #   Column                Non-Null Count  Dtype  
---  ------                --------------  -----  
 0   Temperature           13200 non-null  float64
 1   Humidity              13200 non-null  int64  
 2   Wind Speed            13200 non-null  float64
 3   Precipitation (%)     13200 non-null  float64
 4   Cloud Cover           13200 non-null  object 
 5   Atmospheric Pressure  13200 non-null  float64
 6   UV Index              13200 non-null  int64  
 7   Season                13200 non-null  object 
 8   Visibility (km)       13200 non-null  float64
 9   Location              13200 non-null  object 
 10  Weather Type          13200 non-null  object 
dtypes: float64(5), int64(2), object(4)
memory usage: 1.1+ MB

# 查看分类特征的唯一值
characteristic = ['Cloud Cover','Season','Location','Weather Type']
for i in characteristic:
    print(f'{i}:')
    print(data[i].unique())
    print('-'*50)

Cloud Cover:
['partly cloudy' 'clear' 'overcast' 'cloudy']
--------------------------------------------------
Season:
['Winter' 'Spring' 'Summer' 'Autumn']
--------------------------------------------------
Location:
['inland' 'mountain' 'coastal']
--------------------------------------------------
Weather Type:
['Rainy' 'Cloudy' 'Sunny' 'Snowy']
--------------------------------------------------

feature_map = {
    'Temperature': '温度',
    'Humidity': '湿度百分比',
    'Wind Speed': '风速',
    'Precipitation (%)': '降水量百分比',
    'Atmospheric Pressure': '大气压力',
    'UV Index': '紫外线指数',
    'Visibility (km)': '能见度'
}
plt.figure(figsize=(15, 10))

for i, (col, col_name) in enumerate(feature_map.items(), 1):
    plt.subplot(2, 4, i)
    sns.boxplot(y=data[col])
    plt.title(f'{col_name}的箱线图', fontsize=14)
    plt.ylabel('数值', fontsize=12)
    plt.grid(axis='y', linestyle='--', alpha=0.7)

plt.tight_layout()
plt.show()

在这里插入图片描述

print(f"温度超过60°C的数据量：{data[data['Temperature'] > 60].shape[0]}，占比{round(data[data['Temperature'] > 60].shape[0] / data.shape[0] * 100,2)}%。")
print(f"湿度百分比超过100%的数据量：{data[data['Humidity'] > 100].shape[0]}，占比{round(data[data['Humidity'] > 100].shape[0] / data.shape[0] * 100,2)}%。")
print(f"降雨量百分比超过100%的数据量：{data[data['Precipitation (%)'] > 100].shape[0]}，占比{round(data[data['Precipitation (%)'] > 100].shape[0] / data.shape[0] * 100,2)}%。")

温度超过60°C的数据量：207，占比1.57%。
湿度百分比超过100%的数据量：416，占比3.15%。
降雨量百分比超过100%的数据量：392，占比2.97%。

print("删前的数据shape：", data.shape)
data = data[(data['Temperature'] <= 60) & (data['Humidity'] <= 100) & (data['Precipitation (%)'] <= 100)]
print("删后的数据shape：", data.shape)

删前的数据shape： (13200, 11)
删后的数据shape： (12360, 11)

数据分析

data.describe(include='all')
TemperatureHumidityWind SpeedPrecipitation (%)Cloud CoverAtmospheric PressureUV IndexSeasonVisibility (km)LocationWeather Type
count12360.00000012360.00000012360.00000012360.0000001236012360.00000012360.0000001236012360.0000001236012360
uniqueNaNNaNNaNNaN4NaNNaN4NaN34
topNaNNaNNaNNaNovercastNaNNaNWinterNaNmountainSnowy
freqNaNNaNNaNNaN5726NaNNaN5288NaN45353130
mean18.07135966.9374609.35683750.864968NaN1005.7137433.791262NaN5.535801NaNNaN
std15.80436319.3903336.31833430.967846NaN38.3004713.720638NaN3.377554NaNNaN
min-24.00000020.0000000.0000000.000000NaN800.1200000.000000NaN0.000000NaNNaN
25%4.00000056.0000005.00000019.000000NaN994.5875001.000000NaN3.000000NaNNaN
50%21.00000069.0000008.50000054.000000NaN1007.4950002.000000NaN5.000000NaNNaN
75%30.00000081.00000013.00000079.000000NaN1016.7500006.000000NaN7.500000NaNNaN
max60.000000100.00000048.500000100.000000NaN1199.21000014.000000NaN20.000000NaNNaN
plt.figure(figsize=(20, 15))
plt.subplot(3, 4, 1)
sns.histplot(data['Temperature'], kde=True,bins=20)
plt.title('温度分布')
plt.xlabel('温度')
plt.ylabel('频数')

plt.subplot(3, 4, 2)
sns.boxplot(y=data['Humidity'])
plt.title('湿度百分比箱线图')
plt.ylabel('湿度百分比')

plt.subplot(3, 4, 3)
sns.histplot(data['Wind Speed'], kde=True,bins=20)
plt.title('风速分布')
plt.xlabel('风速（km/h）')
plt.ylabel('频数')

plt.subplot(3, 4, 4)
sns.boxplot(y=data['Precipitation (%)'])
plt.title('降雨量百分比箱线图')
plt.ylabel('降雨量百分比')

plt.subplot(3, 4, 5)
sns.countplot(x='Cloud Cover', data=data)
plt.title('云量 (描述)分布')
plt.xlabel('云量 (描述)')
plt.ylabel('频数')

plt.subplot(3, 4, 6)
sns.histplot(data['Atmospheric Pressure'], kde=True,bins=10)
plt.title('大气压分布')
plt.xlabel('气压 (hPa)')
plt.ylabel('频数')

plt.subplot(3, 4, 7)
sns.histplot(data['UV Index'], kde=True,bins=14)
plt.title('紫外线等级分布')
plt.xlabel('紫外线指数')
plt.ylabel('频数')

plt.subplot(3, 4, 8)
Season_counts = data['Season'].value_counts()
plt.pie(Season_counts, labels=Season_counts.index, autopct='%1.1f%%', startangle=140)
plt.title('季节分布')

plt.subplot(3, 4, 9)
sns.histplot(data['Visibility (km)'], kde=True,bins=10)
plt.title('能见度分布')
plt.xlabel('能见度（Km）')
plt.ylabel('频数')

plt.subplot(3, 4, 10)
sns.countplot(x='Location', data=data)
plt.title('地点分布')
plt.xlabel('地点')
plt.ylabel('频数')

plt.subplot(3, 4, (11,12))
sns.countplot(x='Weather Type', data=data)
plt.title('天气类型分布')
plt.xlabel('天气类型')
plt.ylabel('频数')

plt.tight_layout()
plt.show()

在这里插入图片描述

随机森林

new_data = data.copy()
label_encoders = {}
categorical_features = ['Cloud Cover', 'Season', 'Location', 'Weather Type']
for feature in categorical_features:
    le = LabelEncoder()
    new_data[feature] = le.fit_transform(data[feature])
    label_encoders[feature] = le

for feature in categorical_features:
    print(f"'{feature}'特征的对应关系：")
    for index, class_ in enumerate(label_encoders[feature].classes_):
        print(f"  {index}: {class_}")

'Cloud Cover'特征的对应关系：
  0: clear
  1: cloudy
  2: overcast
  3: partly cloudy
'Season'特征的对应关系：
  0: Autumn
  1: Spring
  2: Summer
  3: Winter
'Location'特征的对应关系：
  0: coastal
  1: inland
  2: mountain
'Weather Type'特征的对应关系：
  0: Cloudy
  1: Rainy
  2: Snowy
  3: Sunny

# 构建x，y
x = new_data.drop(['Weather Type'],axis=1)
y = new_data['Weather Type']

# 划分数据集
x_train,x_test,y_train,y_test = train_test_split(x,y,
                                                 test_size=0.3,
                                                 random_state=15) 

# 构建随机森林模型
rf_clf = RandomForestClassifier(random_state=15)
rf_clf.fit(x_train, y_train)

# 使用随机森林进行预测
y_pred_rf = rf_clf.predict(x_test)
class_report_rf = classification_report(y_test, y_pred_rf)
print(class_report_rf)

              precision    recall  f1-score   support

           0       0.88      0.91      0.89       871
           1       0.93      0.91      0.92       983
           2       0.92      0.93      0.92       929
           3       0.92      0.90      0.91       925

    accuracy                           0.91      3708
   macro avg       0.91      0.91      0.91      3708
weighted avg       0.91      0.91      0.91      3708

结果分析

feature_importances = rf_clf.feature_importances_
features_rf = pd.DataFrame({'特征': x.columns, '重要度': feature_importances})
features_rf.sort_values(by='重要度', ascending=False, inplace=True)
plt.figure(figsize=(10, 8))
sns.barplot(x='重要度', y='特征', data=features_rf)
plt.xlabel('重要度')
plt.ylabel('特征')
plt.title('随机森林特征图')
plt.show()

在这里插入图片描述

学习总结：

1.学会如何处理数据异常值，绘制并分析箱线图，可视化

2.如何用随机森林算法进行预测

随机森林原理总结：

  1. 随机抽样（Bootstrap Sampling）：

随机森林使用Bootstrap采样从训练数据集中随机选择N个样本，其中N是训练数据集的大小。

  1. 特征随机选择：

在每次决策树节点的分裂过程中，随机森林引入了特征的随机性。

假设总共有M个特征，在每次分裂节点时，从这些特征中随机选择m个特征，其中m通常由用户指定。

  1. 决策树的构建：

决策树的构建过程涉及到选择最佳特征和分裂点，通常通过一些分裂标准（例如信息增益、基尼指数）来确定。

  1. 集成方法：

在随机森林中，多个决策树的结果被集成以进行分类或回归。对于分类问题，最终的分类结果是通过多数投票法来确定；对于回归问题，最终的回归结果是多个决策树的预测结果的平均值

  1. 特征重要性评估：

随机森林通常通过观察每个特征在多个决策树中的分裂情况以及其对模型性能的影响来估计特征的重要性。

m0_74907726
关注
GEE：基于k折交叉验证的机器学习模型性能评估
养乐多的博客
05-08 1135
本文将介绍在Google Earth Engine（GEE）平台上应用k折交叉验证方法，来综合评估机器学习模型的整体表现。
GEE python——使用 Landsat 7、8 和 9 以及 Dynamic World Land Cover 数据集训练 随机森林（RF）土地分类模型
此星光明博客
08-16 214
使用 Landsat 7、8 和 9 以及 Dynamic World Land Cover 数据集训练 RF 模型，用于 LULC 分类。目前，我使用来自 Landsat 8 的 12 张图像，这些图像与一些 Dynamic World 场景相匹配（就获取日期而言），以将波段“标签”添加到我的 Landsat 8 图像中，以创建带注释的数据用于训练。然后，我对这些图像进行采样；
【机器学习】11.十大算法之一随机森林算法原理讲解
weixin_50804299的博客
06-19 6684
随机森林是一种集成学习方法，它通过构建多个决策树来进行分类或回归问题。这种方法的核心思想是利用多个决策树的预测结果，通过投票或平均的方式来提高整体模型的准确性和鲁棒性。随机森林中的“随机”体现在两个方面：首先，每棵树在训练时，从原始数据集中随机选择一部分数据点作为训练集；其次，在每棵树的每个分裂节点上，只考虑一部分特征，而不是所有特征。这种方法的优点在于它能够处理高维数据，并且对特征的缺失值和异常值具有较好的容忍性。
9 - L7/L8：机器学习｜随机森林 | 糖尿病探索与预测案例
hazel_cjx的博客
08-15 926
针对 weather_classification_data 数据的分析和预测，我们进行了以下几个关键步骤，并得出了一些有价值的结论：● 数据可视化：我们通过多种图表（如直方图、箱线图、饼图等）对温度、湿度、风速、降水量、云量、大气压、紫外线指数、季节、能见度、地点和天气类型等特征进行了可视化分析。这些图表帮助我们直观地理解了每个特征的分布情况以及可能的异常值。● 类别特征编码：对于数据中的类别特征（如云量、季节、地点、天气类型），我们使用了 LabelEncoder 对其进行了编码。
L8 机器学习——糖尿病探索与预测
weixin_43934209的博客
08-21 881
核心线性回归是一种用于预测连续变量的统计方法，假设输入特征与输出变量之间存在线性关系。模型的目标是找到一条最佳拟合线，使得预测值与实际值之间的误差最小。可以解决的问题线性回归主要用于解决回归问题，比如预测房价、销售额、温度等连续值。优势简单易理解：线性回归模型简单、直观，易于解释模型输出，特别是系数的意义。计算效率高：由于模型简单，训练和预测速度快，适合处理大规模数据。易扩展：可以通过添加多项式特征或使用正则化（如Lasso、Ridge）来处理更复杂的关系。劣势线性假设。
Google Earth Engine（GEE）随机森林分类
热门推荐
guaicaicexu的博客
09-01 1万+
今日分享：Google Earth Engine（GEE）随机森林分类九月第一天，来简单分享下如何在GEE中进行随机森林分类。之做土地利用分类，一直再用ENVI去做，发现做分类时，用ENVI的插件时间太长了，所以就试试用GEE去做一下监督分类。主要参考Google Earth Engine（GEE）的官方文档01—GEE部分实现代码选择研究区和数据集var roi = ee.Geometry.Po...
L8 糖尿病探索与预测
huhuhu1532的博客
08-29 462
🍨 本文为🔗365天深度学习训练营中的学习记录博客K同学啊#定义模型# 构建随机森林模型。
Password Guessing Using Random Forest使用随机森林猜密码
weixin_51176105的博客
06-01 203
密码是目前使用最广泛的认证方法，猜测攻击是最有效的密码强度评估方法。然而，现有的密码猜测模型一般都是建立在传统统计或深度学习的基础上，目前还没有采用经典机器学习的密码猜测模型研究。为了填补这一空白，本文提供了一种全新的密码猜测技术路线。更具体地说，我们对密码字符进行重新编码，使一系列处理多类分类问题的经典机器学习技术(如随机森林、增强算法及其变体)能够用于密码猜测。
机器学习怎么学？看这篇就够了！！
yym68686
03-30 1万+
基础知识 1.数学 数学是学不完的，也没有几个人能像博士一样扎实地学好数学基础，入门人工智能领域，其实只需要掌握必要的基础知识就好。AI的数学基础最主要是高等数学、线性代数、概率论与数理统计三门课程，这三门课程是本科必修的。这里整理了一个简易的数学入门文章。 数学基础：高等数学 https://zhuanlan.zhihu.com/p/36311622 数学基础：线性代数 https://zhu...
Google Earth Engine（GEE）——10种不同机器学习方法下的土地分类分析
此星光明博客
06-22 2127
要了解更多关于CART或其他基于树的算法的工作原理以及它们的不同之处，请阅读此https://www.analyticsvidhya.com/blog/2021/04/distinguish-between-tree-based-machine-learning-algorithms/。数据准备：在GEE中导入真实土地类型数据和相应的遥感数据，包括多光谱或高分辨率遥感数据等。半监督学习：结合监督和无监督方法的学习方法，适用于有限的标记数据和大量未标记数据的情况。监督学习：从已知的数据中学习并预测新的数据。
Google Earth Engine（GEE）——利用已经加载的特定土地分类的研究区提取随机样本点参与随机森林土地分类
此星光明博客
04-05 1185
利用已经加载的特定土地分类的研究区提取随机样本点参与随机森林土地分类。这里我们对于样本点模糊，所以采用直接一个研究区选择随机样本点。然后参与随机森林分类进行土地分类。pointsseedmaxError生成球体上均匀随机的点，并在给定的区域内。
决策回归树与集成算法31
small-guo
12-25 252
1、决策回归树原理概述 与分类树一样 裂分指标，使用的是MSE、MAE MSE(y,y^)=1nsamples∑i=0nsamples−1(yi−y^i)2\text{MSE}(y, \hat{y}) = \frac{1}{n_\text{samples}} \sum\limits_{i=0}^{n_\text{samples} - 1} (y_i - \hat{y}_i)^2MSE(y,y^​)=nsamples​1​i=0∑nsamples​−1​(yi​−y^​i​)2​ MAE(y,y^)=
【机器学习导引】ch3-线性模型
09-26 1009
在数学中，对于函数 f(x1,…,xm)f(x_1, \ldots, x_m)f(x1​,…,xm​) 在点 a=(a1,…,am)a = (a_1, \ldots, a_m)a=(a1​,…,am​) 处的梯度被定义为：∇f(a)=(∂f∂x1(a),…,∂f∂xm(a)) \nabla f(a) = \left( \frac{\partial f}{\partial x_1}(a), \ldots, \frac{\partial f}{\partial x_m}(a) \right) ∇f(a)
机器学习中的KNN算法：原理、应用与实践
weixin_43822401的博客
09-25 577
KNN，即K最近邻算法，是一种基于实例的学习，或者说是懒惰学习。它的核心思想是根据一个样本的K个最近邻居的类别，通过投票的方式来预测该样本的类别。KNN算法简单易懂，易于实现，不需要假设数据分布，因此具有很好的适应性。
决策树算法在机器学习中的应用
hai40587的博客
09-25 869
决策树算法作为一种基本的分类与回归方法，在机器学习中具有广泛的应用。其直观性、易于理解和实现的特点使其成为数据挖掘和数据分析中的常用工具。然而，决策树算法也存在一些缺点，如容易过拟合、对噪声和缺失数据敏感等。因此，在实际应用中需要根据具体问题选择合适的算法和参数，以获得更好的性能。通过不断的研究和改进，决策树算法将在更多领域发挥重要作用，为机器学习和数据科学的发展贡献力量。
关于生成对抗网络（GAN）损失函数的理解
随风i的博客
09-25 123
生成对抗网络（Generative Adversarial Network，简称GAN）是一种由Ian Goodfellow等人在2014年提出的深度学习模型。GAN由两个相互对抗的神经网络组成：生成器（Generator）和判别器（Discriminator）。这两个网络通过博弈论的思想进行训练，生成器试图生成逼真的数据，而判别器负责辨别数据是真实的还是由生成器生成的。
【机器学习】——线性回归（自我监督学习）
酷酷的伟的博客
09-22 1475
线性回归是最基本的监督学习算法之一，主要用于解决回归问题，即预测一个连续值。它假设输入变量（自变量）和输出变量（因变量）之间存在线性关系。
【机器学习】音乐生成——AI如何创作个性化音乐与配乐
最新发布
2202_76097976的博客
09-26 3370
AI音乐生成技术通过算法和数据驱动的方式模仿作曲过程，提升创作效率。主要有两条技术路径：基于规则的生成依赖于预定义音乐理论，而机器学习驱动的生成则利用深度学习、生成对抗网络（GAN）、长短期记忆网络（LSTM）等算法，从大量音乐数据中学习模式生成新音乐。AI在广告、电影、游戏配乐等领域广泛应用，个性化音乐推荐也通过分析用户习惯生成定制化音乐，推动音乐行业创新和变革。
请问我写一个基于随机森林的L8数据云检测代码
05-20
好的，以下是一个基于随机森林的L8数据云检测代码，供你参考： ```python from sklearn.ensemble import RandomForestClassifier import rasterio import numpy as np # 读取L8数据并转换为numpy数组 with ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值