- 博客(5)
- 收藏
- 关注
RSS订阅转载 机器学习随笔五—十大经典算法—KNN (K最近邻)
1. K-近邻算法原理K最近邻(kNN，k-NearestNeighbor)分类算法，见名思意：找到最近的k个邻居（样本），在前k个样本中选择频率最高的类别作为预测类别，什么？怎么那么拗口，没图说个JB，下面举个例子，图解一下大家就会显而易见了，如下图： 我们的目的是要预测某个学生在数学课上的成绩。。。 先来说明几个基本概念：图中每个点代表一个样本（在这里是指一个学生），横纵坐标代表...
2018-04-21 15:51:34
834
转载 机器学习随笔四—谱聚类(spectral clustering)原理总结
谱聚类（spectral clustering）是广泛使用的聚类算法，比起传统的K-Means算法，谱聚类对数据分布的适应性更强，聚类效果也很优秀，同时聚类的计算量也小很多，更加难能可贵的是实现起来也不复杂。在处理实际的聚类问题时，个人认为谱聚类是应该首先考虑的几种算法之一。下面我们就对谱聚类的算法原理做一个总结。1. 谱聚类概述谱聚类是从图论中演化出来的算法，后来在聚类中得到了广泛的...
2018-04-21 15:08:21
4124
转载 机器学习随笔三—再生核Hilbert空间
我们做的非线性映射 ，它将原始特征空间中的数据点映射到另一个高维空间中，之前我们没有提过，其实这个高维空间在这里有一个华丽的名字——“再生核希尔伯特空间 (Reproducing Kernel Hilbert Space, RKHS)”。“再生核”就是指的我们用于计算内积的核函数，再说“再生”之前，我们先来简单地介绍一下 Hilbert Space ，它其实是欧氏空间的一个推广。首先从基本的向量空
2018-04-21 13:54:33
2653
转载 机器学习随笔二——核函数
1. 核函数Kernel1.1 特征空间的隐式映射：核函数事实上，大部分时候数据并不是线性可分的，这个时候满足这样条件的超平面就根本不存在。对于非线性的情况，SVM 的处理方法是选择一个核函数 κ(⋅,⋅) ，通过将数据映射到高维空间，来解决在原始空间中线性不可分的问题。具体来说，在线性不可分的情况下，支持向量机首先在低维空间中完成计算，然后通过核函数将输入空间映射到高维特征空间，...
2018-04-21 13:25:29
1092
原创 机器学习随笔一
1. 半正定矩阵半正定与正定矩阵同意用半正定矩阵来事例： 首先半正定矩阵定义为: 其中X 是向量，M 是变换矩阵 我们换一个思路看这个问题，矩阵变换中，MX代表对向量 X进行变换，我们假设变换后的向量为Y，记做Y=MX。于是半正定矩阵可以写成： 这个是不是很熟悉呢？ 他是两个向量的内积。 同时我们也有公式： ||X||, ||Y||代表向量 X,Y的长度，\theta是他们之间...
2018-04-17 15:28:12
695
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人