机器学习之朴素贝叶斯（三）手写底层实现完整版

最新推荐文章于 2023-01-04 16:51:51 发布

繁华三千东流水

最新推荐文章于 2023-01-04 16:51:51 发布

阅读量484

点赞数 1

分类专栏：机器学习算法思想及代码实现文章标签：机器学习朴素贝叶斯

本文链接：https://blog.csdn.net/qq872890060/article/details/99469296

版权

机器学习算法思想及代码实现专栏收录该内容

57 篇文章 17 订阅

订阅专栏

数据如下

X1,X2,Y
1,S,-1
1,M,-1
1,M,1
1,S,1
1,S,-1
2,S,-1
2,M,-1
2,M,1
2,L,1
2,L,1
3,L,1
3,M,1
3,M,1
3,L,1
3,L,-1
>>预测x1 = 2,x2 = 'S' 的类别

代码如下

import pandas as pd
import numpy as np

# 定义写key的函数,比如产生 'X1=3|Y=1'
def tokey(col_name, category, y): 
    return col_name + "=" + str(category) + "|Y=" + str(y)
    
# 去读数据
df = pd.read_csv("../datas/bayes_lihang.txt")
# 拉普拉斯  平滑因子
lam = 1  
# 用于存储所有概率的字典
P = {} 
# 获取类别种类的list 
Y = df["Y"].value_counts().keys()  
# 获取特征列名
col_names = df.columns.tolist()[:-1]  

# 遍历每个类别
for y in Y:  
	# 获取每个类别下的DF
    df2 = df[df["Y"] == y]
    # 计算先验概率  
    p = (df2.shape[0] + lam) / (df.shape[0] + len(Y) * lam)
    # 将先验概率加入P  
    P[y] = p
    # 遍历每个特征  
    for col_name in col_names:
    	# 获取每个特征下特征值种类的list  
        categorys = df2[col_name].value_counts().keys()
        # 遍历每个特征值  
        for category in categorys:
        	# 计算在某类别下，特征=某特征的条件概率  
            p = (df2[df2[col_name] == category].shape[0] + lam) / (
                        df2.shape[0] + len(categorys) * lam) 
            # 将条件概率加到P 
            P[tokey(col_name, category, y)] = p  
print(P)
# 待测数据
X = [2, "S"]
# 用于存储属于某一类别的后验概率  
res = []  
# 遍历类别
for y in Y:
	# 获取先验概率  
    p = P[y]
    # 遍历特征  
    for i in range(len(X)):
    	# 获取条件概率  
        p *= P[tokey(col_names[i], X[i], y)]  
    print(p)
    # 将后验概率加入res
    res.append(p)  
    
# 返回最大的后验概率对应的类别
print(Y[np.argmax(res)])