模式识别笔记
文章平均质量分 94
老黄lab
这个作者很懒,什么都没留下…
展开
-
手把手教学 - MLP算法实现
手把手教学MLPMLPMLP 算法实现在上一次的推送MLPMLPMLP算法推导小记中对反向传播进行了详细的推导, 本文将详细讲解该算法如何用numpynumpynumpy来实现。本次实验中输入层为4个结点,隐藏层为20个结点,再加上偏置,激活函数为tanhtanhtanh,输出层为3个结点,损失函数为均方误差 ,上次的推导也是基于此进行的。对于不同的激活函数或者损失函数的推导都类似,可以基于上次的推送重新推导出网络权值更新公式即可。本文的激活函数和损失函数都是固定的,是小鱼我之前一次实验的精简版本,后原创 2021-03-18 23:53:10 · 3602 阅读 · 0 评论 -
Non-parametric Classifiers
Parzen Window MethodParzen 窗主要思想就是直接利用样本来估计总体分布, 每一个样本对估计所起的作用依赖于它到x的距离.先验概率P(ωk)P(\omega_{k})P(ωk) 就是训练样本中每个类别的占比P(ωk)=nk∑i=1KniP\left(\omega_{k}\right)=\frac{n_{k}}{\sum_{i=1}^{K} n_{i}}P(ωk)=∑i=1Knink条件概率P(x∣ωk)P\left(x \mid \omega_{k}\right原创 2020-11-16 18:51:31 · 409 阅读 · 0 评论 -
MLP算法推导小记
由于最近要求用numpy数组实现MLP算法, 对鸢尾花进行分类, 并且使用随机梯度下降法进行网络权值更新, 因此将其推导过程记下备忘下图即为三层网络反向传播的简易推导1. 正向传播正向传播的完整公式如下, 其中输入为xix_{i}xi , 本文即为鸢尾花的四个特征输入隐藏层的网络权值为wji(1)w_{j i}^{(1)}wji(1) , 激活函数为tanh(x)\tanh (x)tanh(x)输出层的网络权值为wkj(2)w_{k j}^{(2)}wkj(2) , 输出label采用On原创 2020-11-16 18:34:55 · 679 阅读 · 0 评论