【机器学习】分类算法-朴素贝叶斯算法 No.9

1、概率基础

联合概率和条件概率

2、朴素贝叶斯-贝叶斯公式

例：

3、Sklearn朴素贝叶斯API

Sklearn.naive_bays.MultinomiaINB

4、案例

案例流程：

       第一步：加载20类新闻数据，并进行分割

       第二步：生成文章特征词

       第三步：朴素贝叶斯estimator流程进行预估

示例代码：

from sklearn.datasets import fetch_20newsgroups
from sklearn.model_selection import train_test_split
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.naive_bayes import MultinomialNB

def naviebayes():
    '''
    朴素贝叶斯进行文本分类
    :return: None
    '''
    # 获取数据集
    news = fetch_20newsgroups(subset='all')

    # 进行数据分割
    x_train, x_test, y_train,y_test = train_test_split(news.data, news.target,test_size=0.25)

    # 对数据集进行特征抽取
    tf = TfidfVectorizer()

    # 以训练集当中的词的列表进行每篇文章重要性统计
    x_train = tf.fit_transform(x_train)
    print(tf.get_feature_names())
    x_test = tf.fit_transform(x_test)

    # 进行朴素贝叶斯算法的预测
    mlt = MultinomialNB(alpha=1.0)

    print(x_train.toarray())
    mlt.fit(x_train, y_train)

    y_predict = mlt.predict(x_test)
    print("预测的文章类别：",y_predict)

    # 得出准确率
    print("准确率为： ", mlt.score(x_test,y_test))

if __name__ == "__main__":
    naviebayes()

4、朴素贝叶斯分类优缺点