利用朴素贝叶斯分类器实现手写数字的识别

利用贝叶斯分类器实现手写数字的识别

贝叶斯决策理论：

条件：类别数一定，𝜔_i,i=1,2,3,…c ;
已知类先验概率和类条件概率密度 𝑃(𝜔_𝑖), 𝑃(𝑥│𝜔_𝑖 ), 𝑖=1,2,…, 𝑐

贝叶斯决策：

两类情况：
i𝐟 𝑷(𝝎_𝟏 |𝒙)> 𝑷(𝝎_𝟐 |𝒙) then 𝒙∈𝝎_𝟏
if 𝑷(𝝎_𝟏 |𝒙)< 𝑷(𝝎_𝟐 |𝒙) then 𝒙∈𝝎_𝟐
多类情况：
if 𝑷(𝝎_𝒊│𝒙)=max(𝑷(𝝎_𝒋│𝒙) then"𝒙∈𝝎_𝒊 𝒋=𝟏,𝟐,…,𝒄

贝叶斯公式：

已知：𝑃(𝜔_𝑖), 𝑃(𝑥│𝜔_𝑖 ), 𝑖=1,2,…, 𝑐

MNIST数据库介绍：

Google实验室的Corinna Cortes和纽约大学柯朗研究所的Yann LeCun建有一个手写数字数据库，训练库有60,000张手写数字图像，测试库有10,000张数字图像