在学习朴素贝叶斯的过程中我接触到了一个新的概念,生成模型和判别式模型。
究竟什么是生成模型,什么是判别式模型呢,在我的个人理解当中:
判别模型:就是通过学习,得到一个分类面(即学得一个模型),用该分类面来区分不同的数据分别属于哪一类
生成模型:生成模型是学得各个类别各自的特征(即可看成学得多个模型),可用这些特征数据和要进行分类的数据进行比较,看新数据和学得的模型中哪个最相近,进而确定新数据属于哪一类。
举个简单的例子:若分类目标是对图像中的大象和狗进行分类。判别方法学得一个模型,这个模型可能是判断图中动物鼻子的长度是否大于某一阈值,若大于则判断为大象,否则判断为狗;生成学习则分别构建一个大象的特征模型与狗的特征模型,来了一个新图像后,分别用大象模型与狗模型与其进行比较,若新图像与狗相似度更高则判断为狗,否则判断为大象。
朴素贝叶斯的简单学习发现,主要依靠下面几个公式(用我自己的话阐述):(极大似然估计)
ck这一类的总数 / 全部类的总数
该类样本中ai这个特征的总数 / 该类样本全部的特征数
因为测试样本的特征,训练样本可能不一定全部包含,这时候可能会现在某个的情况,会导致最终的分类结果不正确,为了避免这样的情况发生,这时候就该使用贝叶斯估计:
(ck这一类的总数+ lambda )/ (全部类的总数 + k*lambda)
(该类样本中ai这个特征的总数+lambda) / (该类样本全部的特征数 + S*lambda)
其中k为有几类,s为该类中特征的总数
还有一点需要提到的是,在python中当太多很小的数相乘时会导致下溢出,所以此时我们采用求对数的方法来解决,即可以使用ln(a*b) = lna + lnb
然后就以一个文本分类的例子接受朴素贝叶斯:
首先准备我们的数据集:
def loadDataSet():
postingList=[['my', 'dog', 'has', 'flea', 'problems', 'help', 'please'],
['maybe', 'not', 'take', 'him', 'to', 'dog', 'park', 'stupid'],
['my', 'dalmation', 'is', 'so', 'cute', 'I', 'love', 'him'],
['stop', 'posting', 'stupid', 'worthless', 'garbage'],
['mr', 'licks', 'ate', 'my', 'steak', 'how', 'to', 'stop', 'him'],
['quit', 'buying', 'worthless', 'dog', 'food', 'stupid']]
classVec = [0,1,0,1,0,1] #1 代表侮辱性文字, 0 代表正常
return postingList,classVec
然后创建一个集合,将文本转化为向量的形式,具体这样做的原因看到后面就能理解了,语句都很简单我就不解释了
def createVocabList(dataSet):#创建了一个所有文本的集合,就是为了把样本转化为对于的向量
vocabSet = set([]) #create empty set
for document in dataSet:
vocabSet = vocabSet | set(document) #union of the two sets
return list(vocabSet)
def setOfWords2Vec(vocabList, inputSet):
returnVec = [0]*len(vocabList)
for word in inputSet:
if word in vocabList:
returnVec[vocabList.index(word)] = 1
else: print ("the word: %s is not in my Vocabulary!" % word)
return returnVec
#创建了一个所有文本集合等长的0列表,当文档中单词出现在集合当中时,对应位置就为1,这样就把文本转化为了对应的向量
数据准备好了,就开始训练我们的样本集:
def trainNB0(trainMatrix,trainCategory):
numTrainDocs = len(trainMatrix)
numWords = len(trainMatrix[0])
pAbusive = sum(trainCategory)/float(numTrainDocs)#因为我们就只有两类,计算出一类的ck,0类的自然也就能算出来了,这也就是我们的p(y=ck)
p0Num = ones(numWords); p1Num = ones(numWords)#我们将不同类别的文本所转化而来的向量进行累加,放置到这两个矩阵当中,就能得到该类下,某个特征的总数,也就能求得该类的某个特征所占比,也就是求出了p(x=a|y=ck),为什么创建1矩阵而不是0,就是我前面提到的贝叶斯估计
p0Denom = 2.0; p1Denom = 2.0 #本来应该计算s*lambda,这里就简单计算一下
for i in range(numTrainDocs):
if trainCategory[i] == 1:
p1Num += trainMatrix[i] #1类特征的集合
p1Denom += sum(trainMatrix[i])#为了计算1类所占比
else:
p0Num += trainMatrix[i] #0类
p0Denom += sum(trainMatrix[i])
p1Vect = log(p1Num/p1Denom) #用对数代替
p0Vect = log(p0Num/p0Denom)
return p0Vect,p1Vect,pAbusive
公式当中的参数全部都求了出来,就可以进行分类了:
def classifyNB(vec2Classify, p0Vec, p1Vec, pClass1):
p1 = sum(vec2Classify * p1Vec) + log(pClass1) #对应位置相乘的和,再乘以p(y=ck)得到了概率,哪个概率大就归为哪类
p0 = sum(vec2Classify * p0Vec) + log(1.0 - pClass1)
if p1 > p0:
return 1
else:
return 0