最近开始给一群搞生物的讲machine learning,所以决定有点什么感想就记录一下。
语言毫无逻辑,希望以后还能看懂我在写啥。
感觉我终于有点搞懂了朴素贝叶斯分类器;
首先,分类器就是求P(Y|X),这是一个关于Y的后验概率
例如,男人和女人
如果我知道这个世界上男人和女人的比例是1:1, 那么没有任何其他条件,随机抽一个人,是女的的概率是1/2 即P(Y)=1/2 (如果是正态分布,就是已知先验的均值和方差)
但是,如果一个人,我已知这个人长头发,穿裙子,那么这个人是女人的概率就会发生变化,因为这样就会从一个先验概率变成一个后验概率,分布就变了;
那么,做分类,其实就是在求,对于一类x,比如长头发,穿裙子,那么他是男人的后验概率和时女人的后验概率哪个更大,那么这个人就被预测为那个类;
所以就是在求最大后验概率MAP (就是最大后验概率估计)
而最大后验概率,根据贝叶斯公式,他就是最大似然估计*先验概率
最大似然估计,在条件独立的时候可以算出来,先验也可以算出来,或者用领域知识