- 博客(5)
- 收藏
- 关注
原创 线性判别分析LDA算法与python实现
降维指的是通过某种数学变换将高维原始空间的属性转变为低维子空间,根据变换形式可将该数学变换分为线性变换和非线性变换,对应的降维算法也被称为线性降维和非线性降维.其中,线性降维算法主要有线性判别分析(linear discriminant analysis,LDA)和主成分分析(Principal Component Analysis,PCA),非线性降维主要有核化思想(如Kernelized PCA)和流形学习(Isomap,LLE,LE等)两类. 假定有原始空间高维数据X∈Rn×mX \in R^
2020-06-16 21:24:21
715
原创 幂迭代(power iterations)算法
矩阵的特征值和特征向量包含了矩阵重要的信息,其中,最大的特征值对应的特征向量包含就矩阵最多的信息,这也是很多数据降维算法的核心思想.矩阵特征值的详细解释可见知乎马同学专栏如何理解矩阵特征值和特征向量.专栏中比较详细地解释了一个事实:现有方阵A∈Rn×nA \in R^{n \times n}A∈Rn×n,且随机取一个列向量v∈Rn×1v \in R^{n \times 1}v∈Rn×1,在多次使用AAA左乘vvv之后,得到的结果位于AAA的最大特征值对应的特征向量张成的特征空间内. power it
2020-06-09 16:36:00
6919
1
原创 局部线性嵌入(LLE)算法的详细推导及Python实现
局部线性嵌入(Local Linear Embedding, LLE)算法是一种经典的流形学习算法,不同于等度量映射(Isometric Mapping, Isomap)算法考虑结点的全局连接信息,LLE算法只考虑每个结点的k近邻信息,所以速度比Isomap快很多。LLE的思想如下图所示,LLE在低维空间保持了原始高维空间样本邻域内的线性关系,这也是局部线性的一个最直接的解释:高维数据在局部上...
2020-03-16 21:29:31
5414
2
原创 多维缩放(MDS)算法的详细推导及Python实现
最近对流形学习比较感兴趣,因为流形学习用到了MDS算法,所以写一篇博客记录下来,主要是对西瓜书里面的公式进行详细的推导,并给出Python代码实现。MDS算法即多维缩放(Multiple Dimensional Scaling)算法,是一种常见的降维算法,核心思想是要求原始空间样本间的距离在低维空间得到保持。 现给定训练样本χ={x1,x2,...,xm}\chi=\{x_1, x_2,....
2020-03-06 22:29:51
4141
3
原创 使用卷积神经网络学习描述子(learning-based descriptors)
特征点的检测与匹配是CV领域十分大的一个研究方向,在得到图像特征点之后,应该为每个特征点分配一个描述子,描述子的应用十分广泛,1. 手工设计(handcrafted)handcrafted的描述子2. 手工设计handcrafted的描述子List item...
2020-03-05 16:34:29
3035
6
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人