- 博客(3)
- 收藏
- 关注
RSS订阅转载 手写朴素贝叶斯（naive_bayes）分类算法
朴素贝叶斯假设各属性间相互独立，直接从已有样本中计算各种概率，以贝叶斯方程推导出预测样本的分类。为了处理预测时样本的（类别，属性值）对未在训练样本出现，从而导致概率为0的情况，使用拉普拉斯修正（假设属性值与类别均匀分布）。代码及注释如下：一、离散值1，朴素贝叶斯算法计算相关参数并返回，预测使用这些参数即可# 手写拉普拉斯修正的朴素贝叶斯import numpy...
2019-10-03 05:43:00
778
转载 SVM之KKT条件理解
在SVM中，我们的超平面参数最终只与间隔边界上的向量（样本）有关，故称为支持向量机。求解最优超平面，即求最大化间隔，或最小化间隔的倒数：||w||2/2，约束条件为yi(wTxi+b)>=1因为此函数为凸函数（拉格朗日乘子法的前提条件），可用拉格朗日乘子法转化为对偶问题，当满足KKT条件时，对偶问题=原始问题。关于约束：1. 目标函数极值点在约束范围内：此时不等式约...
2019-10-02 11:10:00
637
转载 手写BP（反向传播）算法
BP算法为深度学习中参数更新的重要角色，一般基于loss对参数的偏导进行更新。一些根据均方误差，每层默认激活函数sigmoid（不同激活函数，则更新公式不一样）假设网络如图所示：则更新公式为：以上列举了最后2层的参数更新方式，第一层的更新公式类似，即上一层的误差来自于下一层所有的神经元，e的更新就是不断建立在旧的e上（这里g可以当做初始的e）下面上代码：1...
2019-10-01 21:02:00
874
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人