【项目实战】Python实现Naive Bayes贝叶斯分类模型(GaussianNB、MultinomialNB算法)项目实战

说明：这是一个机器学习实战项目（附带数据+代码+文档+代码讲解），如需数据+代码+文档+代码讲解可以直接到文章最后获取。

1.项目背景

      分类是数据挖掘领域最重要的研究方向之一。在如今众多分类模型中，最广泛使用的是朴素贝叶斯模型，源于古典数学理论，具有坚实的数学基础及算法简单直观、易实现、时空开销小、强健壮性等优点。贝叶斯理论作为统计模型中的一个基本方法其理论的核心在于通过贝叶斯公式将数据总体、样本和先验信息结合在一起，从而由此求得未知参数的后验分布。因此根据贝叶斯理论，首先获得参数的先验概率和条件概率密度，其次根据贝叶斯公式，将参数的先验概率转换为后验概率，最后根据获得的参数后验概率进行分类和预测。

2.数据获取

本次建模数据来源于网络(本项目撰写人整理而成)，数据项统计如下：

数据详情如下(部分展示)：

3.数据预处理

3.1 用Pandas工具查看数据

使用Pandas工具的head()方法查看前五行数据：

 

关键代码：

3.2查看数据集形状

使用Pandas工具的shape属性查看数据集的形状：

 

从上图可以看到，总共有891条数据，12个数据项。

关键代码：

3.3 去掉部分文本数据项

使用Pandas工具的drop方法去掉PassengerId、Name、Ticket、Cabin、Embarked这些数据项，关键代码：

 

3.4 特征数据项Sex文本数据处理

使用Pandas工具的where方法把Sex数据项转换为0、1数字，来满足机器学习的需要，关键代码：

 

3.5 缺失值数据查看

使用Pandas工具的isnull方法来查看数据项的缺失值情况，如下图：

 

关键代码：

4.探索性数据分析

4.1特征数据项Age的分布分析

从上图可以看出，人员的年龄分布在20~40岁之间。

年龄的缺失值使用均值填充，填充之后的分布分析如下：

从上图可以看出，经过均值填充之后，人员的年龄分布在30岁左右。

4.2 特征数据项Sex的分布分析

 

通过上图可以看出，女性生存的几率是大于男性的。

从上图可以看出，在生存的人员中女性是大于男性的。

从上图可以看出，在死亡的人员中男性是远远大于女性的。

4.3 特征数据项Pclass的分布分析 

 

从上图可以看出，在3等舱死亡的最多，在1等舱生存的最多。

4.4 相关性分析

用Pandas工具的corr()方法 matplotlib seaborn进行相关性分析，结果如下：

 

通过上图可以看到，数据项之间的相关性比较弱，表明各个数据项之间比较独立。数据项之间正值是正相关/负值是负相关，数值越大 相关性越强。

5.特征工程

5.1 建立特征数据和标签数据

Survived为标签数据，除 Survived之外的为特征数据。关键代码如下：

 

5.2数据集拆分

训练集拆分，分为训练集和验证集，80%训练集和20%验证集。关键代码如下：

 

5.3特征数据归一化

用MinMaxScaler方法把数据进行归一化，关键代码如下：

 

6.构建贝叶斯分类模型

主要使用使用GaussianNB、MultinomialNB算法，用于目标分类。

6.1建模

关键代码如下：

 

7.模型评估

7.1评估指标及结果

评估指标主要包括准确率、查准率、查全率、F1分值等等。

 从上表可以看出，准确率为79%  F1分值为70%。

关键代码如下：

 

7.2 混淆矩阵

GaussianNB分类模型混淆矩阵：

 

从上图可以看到，实际值为1 预测为0的有14个；实际值为0  预测为1的有24个；这些是预测错误的。

MultinomialNB分类模型混淆矩阵：

从上图可以看到，实际值为1 预测为0的有21个；实际值为0  预测为1的有18个；这些是预测错误的。

7.3 分类报告

GaussianNB分类模型分类报告 

 

从上图可以看到，分类类型为0的F1分值为0.82；分类类型为1的F1分值为0.74；整个模型的准确率为0.79.

MultinomialNB分类模型分类报告：

从上图可以看到，分类类型为0的F1分值为0.83；分类类型为1的F1分值为0.71；整个模型的准确率为0.78.

7.4 ROC曲线

GaussianNB模型ROC曲线：

从上图可以看出AUC值为0.50。

MultinomialNB模型ROC曲线：

从上图可以看出AUC值为0.80。

8.结论与展望

综上所述，本文采用了贝叶斯分类模型，最终证明了我们提出的模型效果良好。

# 用Pandas工具查看数据
print(train_data.head())
# 查看数据集形状
print(train_data.shape)

# 本次机器学习项目实战所需的资料，项目资源如下：

链接：https://pan.baidu.com/s/1ptSodz58nx503PIO-RjJYQ 
提取码：d15y





# 去掉部分文本数据项
train_data.drop(["PassengerId", "Name", "Ticket", "Cabin", "Embarked"], axis=1, inplace=True)

# 特征数据项Sex文本数据处理
train_data["Sex"] = np.where(train_data["Sex"] == "female", 1, 0)

# 缺失值数据查看
Missing_values_percent = 100 * (train_data.isnull().sum() / len(train_data["Sex"]))
print(Missing_values_percent)

# 特征数据项Age的分布分析
sbn.displot(train_data["Age"], kde=True, bins=40)
plt.show()