- 博客(5)
- 收藏
- 关注
RSS订阅原创 朴素贝叶斯
1.朴素贝叶斯注：朴素贝叶斯和贝叶斯法不是同一个概念朴素贝叶斯法是基于朴素贝叶斯定理和条件独立性假设的方法。对于给定数据集，先基于特征条件独立假设学习输入/输出的联合分布。然后基于这个模型，求出给定的输入x的后验概率最大的输出y。定义：设输入空间χ⊆Rnχ⊆Rn\chi \subseteq R^{n}为n维向量的集合，输出空间为类标记集合γγ\gamma = {c1,c2,⋯,ckc1...
2018-05-28 21:27:41
270
原创 knn算法以及算法实现
1. knn算法定义：对于输入变量x，寻找数据集中距离x最近的k个实例，这k个实例中哪个类的数量最多，就认为输入变量x属于该类。2.距离度量对于knn算法，我们一般选择欧式距离作为距离度量，当然，对于不同的问题，可能会有不同的选择。3.k值的选择k值的选择对于knn的结果具有很大的影响。 如果选择了较小的k值，只有和输入实例较近（相似的）的训练实例才会对预测结果起作用。...
2018-05-28 16:48:22
307
原创 感知机算法及实现
感知机算法定义1：假设输入空间是χ⊆Rnχ⊆Rn\chi \subseteq R^{n},输出空间为γγ\gamma={+1,-1}.输入x∈χ∈χ\in \chi表示实例的特征向量，对应于输入空间的点；输出y∈γy∈γy\in \gamma表示实例的类别。由输入空间到输出空间的如下函数f(x)=sign(wx+b)f(x)=sign(wx+b)f(x)=sign(\mathbf{w} \ma...
2018-05-27 20:36:27
910
原创 统计学习第一章习题
1.1通过极大似然估计或贝叶斯估计来估计结果为1的概率 解： 极大似然估计： 对于伯努利模型，假设P(x=1)=θP(x=1)=θP(x=1)=\theta,于是我们可以得到它的条件分布为P(x|θ)=θx(1−θ)1−xP(x|θ)=θx(1−θ)1−xP(x|\theta)=\theta^{x}(1-\theta)^{1-x}。于是我们得到似然函数 L(θ)=∏i=1nP(xi)=∏i...
2018-05-26 15:48:16
380
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人