贝叶斯算法(机器学习)
提出
贝叶斯(约1701-1761)Thomas Bayes,英国数学家
源于贝叶斯生前为解决**“逆概”**问题而写的一篇文章,“逆概”就是逆向概率的意思,由于当时的社会背景和人们的认知局限,人们并没有对这篇文章投以肯定的目光(题外话:很多大的超前的成就是不能被当时的人们所接受的,所以大家可以大胆的去探索自己思考的东西,不要不敢发声),在它去世后,其朋友拿着这篇文章为他赢回了“曙光”。
知识储备
(1)正向概率与逆向概率
这是贝叶斯需要解决的两个问题
正向概率:在知道事物比例的情况下,来计算某个事件出现的概率。
逆向概率:不知道事物比例的情况下,而是通过一定的表面现象来预测某个事件出现的概率。
why贝叶斯?
在现实生活中,由于人们的认知有限,且对于外界事物传达信息接受的不全面性,逆向概率的求解变得更为难以捕捉,于是便有了贝叶斯的出世。此外,贝叶斯通过一种间接的方式较为简单的求解了某事件的发生概率。
举个栗子可能理解的更好一点:
就比如知道,假设某理工大学校园里男生占65%,女生占35%,且知道大学校园里男生都穿长裤,女生一半穿裙子,一半穿长裤。
正向概率:随机选取一个学生,求其穿裙子的概率
逆向概率:发现一个穿长裤学生,问他是女生的概率(是不是有点像条件概率?)
(2)条件概率
公式:
P
(
A
∣
B
)
=
P
(
A
B
)
P
(
B
)
P(A|B)= \frac{P(AB)}{P(B)}\qquad
P(A∣B)=P(B)P(AB)
含义:在事件B发生的前提下,事件A发生的概率为事件AB同时发生的概率与事件B发生概率的比值。
贝叶斯公式的简例推导
还拿上边的例子来推导吧!