机器学习实战——朴素贝叶斯法（代码详解）

机器学习实战——朴素贝叶斯法

朴素贝叶斯就是在假设各个特征相互独立的条件下运用贝叶斯准则通过先验概率计算出后验概率，输出后验概率最大的类别。

先讲讲在下代码时候遇到的问题，代码参考机器学习实战这本书。

问题一：
《机器学习实战》P66中运行程序清单4-5时，总是报错：
UnicodeDecodeError: ‘gbk’ codec can’t decode byte 0xae in position 199: illegal multib
解决办法：
打开23.txt 文件发现，包含一个?字符。“SciFinance?is”，删除该“？”即可。
问题二：
del(trainingSet[randIndex])这段代码报错
出现错误 ‘range’ object doesn’t support item deletion
主要原因：版本不同，书上python2版本，在python3中range返回的是range对象，而不是列表
解决办法：把 trainingSet = range(50) 改为 trainingSet = list(range(50))

问题三：
在文本解析时

strings = 'Hello python,the best language!'
print(strings)
import re
listOfTokens = re.split(r'\W*',strings)
print(listOfTokens)

输出结果

Hello python,the best language!
['', 'H', 'e', 'l', 'l', 'o', '', 'p', 'y', 't', 'h', 'o', 'n', '', 't', 'h', 'e', '', 'b', 'e', 's', 't', '', 'l', 'a', 'n', 'g', 'u', 'a', 'g', 'e', '', '']

可见文件解析不对。
解决办法：
将listOfTokens = re.split(r’\W*’,strings)改为listOfTokens = re.split(r’\W’,strings) 去掉*即可

代码如下注释中给出了自己的理解

from numpy import *
"""从文本中构建词向量"""
def loadDataSet():
    """创建实验样本"""
    postingList=[
                ['my','dog','has','flea','probiems','help','please'],
                ['maybe','not','take','him','to','dog','park','stupid'],
                ['my','dalmation','is','so','cute','I','love','him'],
                ['stop','posting','stupid','worthless'