【机器学习】概率神经网络(PNN)的python实现
一、概率神经网络原理
概率神经网络(Probabilistic Neural Network)的网络结构类似于RBF神经网络,但不同的是,PNN是一个前向传播的网络,不需要反向传播优化参数。这是因为PNN结合了贝叶斯决策,来判断测试样本的类别。
1.1、贝叶斯决策
假设对于测试样本 x x x,共有 m m m中类别可能 { w 1 , ⋯   , w m } \{ {w_1}, \cdots ,{w_m}\} { w1,⋯,wm},则判断样本类别的贝叶斯决策是:
max { p ( w 1 ∣ x ) , p ( w 2 ∣ x ) , ⋯   , p ( w m ∣ x ) } \max \{ p({w_1}\left| x \right.),p({w_2}\left| x \right.), \cdots ,p({w_m}\left| x \right.)\} max{ p(w1∣x),p(w2∣x),⋯,p(wm∣x)}
1.2、PNN的网络结构
要介绍上述概率密度 p ( w i ∣ x ) p({w_i}\left| x \right.) p(w