机器学习第五篇，朴素贝叶斯

在学习朴素贝叶斯的过程中我接触到了一个新的概念，生成模型和判别式模型。

究竟什么是生成模型，什么是判别式模型呢，在我的个人理解当中：

判别模型：就是通过学习，得到一个分类面（即学得一个模型），用该分类面来区分不同的数据分别属于哪一类

生成模型：生成模型是学得各个类别各自的特征（即可看成学得多个模型），可用这些特征数据和要进行分类的数据进行比较，看新数据和学得的模型中哪个最相近，进而确定新数据属于哪一类。

举个简单的例子：若分类目标是对图像中的大象和狗进行分类。判别方法学得一个模型，这个模型可能是判断图中动物鼻子的长度是否大于某一阈值，若大于则判断为大象，否则判断为狗；生成学习则分别构建一个大象的特征模型与狗的特征模型，来了一个新图像后，分别用大象模型与狗模型与其进行比较，若新图像与狗相似度更高则判断为狗，否则判断为大象。

朴素贝叶斯的简单学习发现，主要依靠下面几个公式(用我自己的话阐述)：（极大似然估计）

 ck这一类的总数 / 全部类的总数

该类样本中ai这个特征的总数 / 该类样本全部的特征数

因为测试样本的特征，训练样本可能不一定全部包含，这时候可能会现在某个的情况，会导致最终的分类结果不正确，为了避免这样的情况发生，这时候就该使用贝叶斯估计：

 （ck这一类的总数+ lambda )/ (全部类的总数 + k*lambda)

（该类样本中ai这个特征的总数+lambda） / （该类样本全部的特征数 + S*lambda）

其中k为有几类，s为该类中特征的总数

还有一点需要提到的是，在python中当太多很小的数相乘时会导致下溢出，所以此时我们采用求对数的方法来解决，即可以使用ln(a*b) = lna + lnb

然后就以一个文本分类的例子接受朴素贝叶斯：

首先准备我们的数据集：

def loadDataSet():
    postingList=[['my', 'dog', 'has', 'flea', 'problems', 'help', 'please'],
                 ['maybe', 'not', 'take', 'him', 'to', 'dog', 'park', 'stupid'],
                 ['my', 'dalmation', 'is', 'so', 'cute', 'I', 'love', 'him'],
                 ['stop', 'posting', 'stupid', 'worthless', 'garbage'],
                 ['mr', 'licks', 'ate', 'my', 'steak', 'how', 'to', 'stop', 'him'],
                 ['quit', 'buying', 'worthless', 'dog', 'food', 'stupid']]
    classVec = [0,1,0,1,0,1]    #1 代表侮辱性文字, 0 代表正常
    return postingList,classVec

 然后创建一个集合，将文本转化为向量的形式，具体这样做的原因看到后面就能理解了，语句都很简单我就不解释了

def createVocabList(dataSet):#创建了一个所有文本的集合，就是为了把样本转化为对于的向量
    vocabSet = set([])  #create empty set
    for document in dataSet:
        vocabSet = vocabSet | set(document) #union of the two sets
    return list(vocabSet)



def setOfWords2Vec(vocabList, inputSet):
    returnVec = [0]*len(vocabList)
    for word in inputSet:
        if word in vocabList:
            returnVec[vocabList.index(word)] = 1
        else: print ("the word: %s is not in my Vocabulary!" % word)
    return returnVec
#创建了一个所有文本集合等长的0列表，当文档中单词出现在集合当中时，对应位置就为1，这样就把文本转化为了对应的向量

数据准备好了，就开始训练我们的样本集：

def trainNB0(trainMatrix,trainCategory):
    numTrainDocs = len(trainMatrix)
    numWords = len(trainMatrix[0])
    pAbusive = sum(trainCategory)/float(numTrainDocs)#因为我们就只有两类，计算出一类的ck，0类的自然也就能算出来了，这也就是我们的p(y=ck)
    p0Num = ones(numWords); p1Num = ones(numWords)#我们将不同类别的文本所转化而来的向量进行累加，放置到这两个矩阵当中，就能得到该类下，某个特征的总数，也就能求得该类的某个特征所占比，也就是求出了p(x=a|y=ck),为什么创建1矩阵而不是0，就是我前面提到的贝叶斯估计
    p0Denom = 2.0; p1Denom = 2.0           #本来应该计算s*lambda,这里就简单计算一下
    for i in range(numTrainDocs):
        if trainCategory[i] == 1:
            p1Num += trainMatrix[i] #1类特征的集合
            p1Denom += sum(trainMatrix[i])#为了计算1类所占比
        else:
            p0Num += trainMatrix[i] #0类
            p0Denom += sum(trainMatrix[i])
    p1Vect = log(p1Num/p1Denom)          #用对数代替
    p0Vect = log(p0Num/p0Denom)          
    return p0Vect,p1Vect,pAbusive

公式当中的参数全部都求了出来，就可以进行分类了：

def classifyNB(vec2Classify, p0Vec, p1Vec, pClass1):
    p1 = sum(vec2Classify * p1Vec) + log(pClass1)    #对应位置相乘的和，再乘以p(y=ck)得到了概率，哪个概率大就归为哪类
    p0 = sum(vec2Classify * p0Vec) + log(1.0 - pClass1)
    if p1 > p0:
        return 1
    else: 
        return 0