SKlearn库——(2)朴素贝叶斯分类

模块：sklearn.naive_bayes

理论基础：每队特征之间相互对立；其需要的训练数据比较少，通过计算属于每个类的概率并取概率最大的类作为预测类

共有三类：①高斯贝叶斯（from sklearn.naive_bayes import  GaussianNB）

                 ②多项式模型贝叶斯（from sklearn.naive_bayes import  MultinomialNB）：用于文本分类，处理多项离散数据集

                 ③伯努利模型贝叶斯（from sklearn.naive_bayes import  BernoulliNB）

下面贴上用多项式模型贝叶斯用于文本分类的代码

from numpy import *
from sklearn.naive_bayes import MultinomialNB
#1：准备数据
#①直接给出训练集：原始数据（切分好的已除去标点的词条集合）及对应标签
def DataSet():
    original_group=[['my', 'dog', 'has', 'flea', 'problems', 'help', 'please'],
                 ['maybe', 'not', 'take', 'him', 'to', 'dog', 'park', 'stupid'],
                 ['my', 'dalmation', 'is', 'so', 'cute', 'I', 'love', 'him'],
                 ['stop', 'posting', 'stupid', 'worthless', 'garbage'],
                 ['mr', 'licks', 'ate', 'my', 'steak', 'how', 'to', 'stop', 'him'],
                 ['quit', 'buying', 'worthless', 'dog', 'food', 'stupid']] #给出5组数据
    original_labels = [0,1,0,1,0,1]    #给出相应5组标签，1 is abusive, 0 not
    return original_group,original_labels  #返回初始数据及标签
                 
#②根据初始数据创建不重复数据（不重复的词条集合）
def nonre_DataSet(original_group):
    nonre_group = []  #先创建空集
    for document in original_group: #逐一取dataSet中的元素
        nonre_group = list(set(nonre_group).union(set(document))) #求两个
       # nonre_group=nonre_group.tolist()#求两集合的并集，set（）的作用为去除每一个[]中的重复词条
    return nonre_group  #返回不重复数据

#③输出任意数据（词汇列表）相对于总数据的向量列表
def Vec_group(nonre_group, inputgroup): #输入的两个参数为非重复性数据列表和新增数据，输出为新增数据的向量（0或1）
    #0表示非重复性数据列表在新增数据中没有出现，1表示出现
    inputVec = [0]*len(nonre_group)  #创建空集，表示所有非重复性词汇在新增数据中都没有出现
    for word in inputgroup: #逐一读取新增数据
        if word in nonre_group:  #如果新增数据的词汇存在于总（非重复性）数据列表中
            inputVec[nonre_group.index(word)] = 1 #将总数据列表中word的序列提取（如a），再 inputVec[a]=1，表明该向量1对
            # 应总数据位置的词汇存在
        else:
            print("the word: %s is not in my Vocabulary!"%word)# %s为占位符，后接%word将词汇插入占位符中
    return inputVec

#④实验输出总数据列表；某词汇列表的向量
original_group,original_labels= DataSet()  #取得原始据列表及对应标签
nonre_group=nonre_DataSet(original_group) #取得总（非重复性）列表
#print(original_group[5],original_labels)
#print(nonre_group)
#print(len(nonre_group)==size(nonre_group)) #验证非重复性数据列表是否是重复
inputVec=[]
for i in arange(6):
    X=Vec_group(nonre_group,original_group[i])
    inputVec.append(X)
print(shape(inputVec),shape(original_labels))
#取得任一数据相对总数据的向量
print(inputVec,original_labels) #输出原始数据中第一个元素的向量及坐标，以上学习了如何将一组单词转换成一组数字以
# 及该文档所属的类别

#2：训练算法
clf=MultinomialNB()
clf.fit(inputVec,original_labels)
print(inputVec[0])
print(clf.predict(array(inputVec[0]).reshape(1,32)))
print(inputVec[1])
print(clf.predict(array(inputVec[1]).reshape(1,32))) #于初始值完全相符