算法实践：模拟离散数据集--贝叶斯分类（day6）

模拟离散数据集–贝叶斯分类

Step1: 库函数导入
+ Step2: 数据导入&分析
+ Step3: 模型训练&可视化
+ Step4: 原理简析

import random
import numpy as np
# 使用基于类目特征的朴素贝叶斯
from sklearn.naive_bayes import CategoricalNB
from sklearn.model_selection import train_test_split

Step2: 数据导入&分析

# 模拟数据
rng = np.random.RandomState(1)
# 随机生成600个100维的数据，每一维的特征都是[0, 4]之前的整数
X = rng.randint(5, size=(600, 100))
y = np.array([1, 2, 3, 4, 5, 6] * 100)
#help(rng.randint)
#print(rng);
data = np.c_[X, y]
# X和y进行整体打散
random.shuffle(data)
X = data[:,:-1]
y = data[:, -1]
#print(y)

所有的数据特征都是离散特征，我们引入基于离散特征的朴素贝叶斯分类器。

Step3: 模型训练&预测

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=0)
clf = CategoricalNB(alpha=1)
clf.fit(X_train, y_train)
acc = clf.score(X_test, y_test)
print("Test Acc : %.3f" % acc)

Test Acc : 0.617

# 随机数据测试，分析预测结果，贝叶斯会选择概率最大的预测结果
# 比如这里的预测结果是6，6对应的概率最大，由于我们是随机数据
# 读者运行的时候，可能会出现不一样的结果。
x = rng.randint(5, size=(1, 100))
print(x)
print(clf.predict_proba(x))
print(clf.predict(x))

[[3 3 1 0 1 3 1 0 1 4 4 3 0 1 3 3 1 0 2 4 0 2 0 1 4 2 3 4 0 2 1 2 2 1 2 1
  1 4 1 2 0 2 3 2 0 3 4 3 0 4 4 3 1 4 3 3 3 1 0 3 1 4 2 0 0 2 3 4 2 2 1 2
  1 0 4 2 4 0 4 3 0 1 1 4 2 2 3 1 4 4 1 3 4 4 0 4 1 2 3 4]]
[[1.82987972e-01 4.34048283e-03 2.23652778e-01 3.25783476e-01
  1.77954222e-04 2.63057337e-01]]
[4]