迹比问题 trace ratio

最新推荐文章于 2022-08-10 11:05:27 发布
最新推荐文章于 2022-08-10 11:05:27 发布
阅读量1.6k 收藏 2
点赞数 1
分类专栏： LDA总结
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u013614079/article/details/100592716
版权
本文主要讨论在LDA主题模型求解过程中遇到的迹比问题(Trace Ratio)。介绍了迹比与比例迹的关系，以及在进行降维时如何通过去除零特征值的PCA方法（remove null(St)-PCA）来处理。文章提到了ITR（iterative trace ratio）算法，以及如何通过转换为trace difference问题来近似解决trace ratio，并引用了Guo2003年的理论。然而，对于正交变化不变性的应用，作者表示存在困惑。
摘要由CSDN通过智能技术生成

在求解LDA的过程中，避免不了trace ratio。最近几天看了一些trace ratio的论文。需要总结一下。

一、Trace ratio vs ratio trace for dimension reduction
目标函数
在这里插入图片描述
算法：

  1. remove null(St)-PCA去掉零特征值。主要是St的零空间不包含信息。将非零向量命名为V-列正交。（1）中W可写成 W=VU
    在这里插入图片描述在这里插入图片描述
  2. ITR-iterative trace ratio
    考虑到trace ratio转化为ratio trace 之后，即使ratio trace有闭式解但仍不可能精确满足trace ratio。因此，将其转化为trace difference问题。
    1). lamba_n由第n-1个V代入公式求解
    在这里插入图片描述
    2). 利用Guo03年的理论 将trace ratio 问题转化 trace difference 问题
最低0.47元/天 解锁文章
ygzyrz
关注
专栏目录
Self Attention Generative Adversarial Network
程序员光剑
08-01 1928
2017年，微软亚洲研究院发布了基于Self-Attention的GAN模型——SAGAN（Self-Attention Generative Adversarial Networks）。该模型通过将判别器(Discriminator)、生成器(Generator)和自注意机制(Self-Attention Mechanism)联合训练，消除了模型参数之间的依赖性，提高了模型的泛化能力。
线性判别分析 LDA总结
u013614079的博客
09-05 1554
1.线性判别分析的目标 类间散度矩阵小，类内散度矩阵大。这个意思就是，同类的点越聚集，而不同类的点越分散。 2.散度矩阵的定义 C类数据，n个样本点，X为d*n的矩阵，每一个数据点都有d个维度。n_i表示第i类的样本点个数。u_i表示第i类样本点的平均值，注意是对所有n_i个样本点的同一个维度取平均，而u为所有n个样本点的平均，这里仍然是维度的平均组成的向量。 这里需要说明一下，max rank(...
Feature Selection: A Data Perspective [阅读笔记]2：传统数据的特征选择算法——基于相似性的方法
RoderickLi-努力努力再努力
09-06 1507
FEATURE SELECTION ON CONVENTIONAL DATA 在本节中，根据所使用的技术，传统数据的特征选择算法广泛地分为 基于相似性的方法（similarity-based） 基于信息理论的方法(information-theoretical-based) 基于稀疏学习的方法(sparse-learning-based) 基于统计的方法(statistical-base...
线性判别分析（LDA）与Fisher判别分析（FDA）降维原理
车手只需要车和手，压力来自轮胎
08-11 8745
在故障诊断中，我们常常会面对大量的且维数很高的数组，通过我们需要先对数据集进行划分及预处理，而预处理阶段极为重要的一步就是对数据进行降维特征提取，通过某种数学变换将原始高维空间转变成一个低维的子空间。 然鹅，我们常用到的基本就只有两个，一个是主成分分析（PCA），另一个则是今天所要介绍的Fisher判别分析（Fisher Discriminant Analysis，FDA）。 主成分分析的基本思想：设法将原来众多具有一定相关性（比如P个指标，即主成分），重新组合成一组新的互相无关的综合指标来代替原来的指标
论文笔记：Weighted Graph Cuts without Eigenvectors:A Multilevel Approach
qq_40206371的博客
10-07 1027
1 introduction 在本文中，我们讨论了两种看似不同的方法对非线性可分数据的聚类:核k均值和谱聚类之间的等价性。 利用这种等价性，我们设计了一种基于核的快速multigraph聚类算法，该算法在速度、内存使用和质量方面都优于谱聚类方法。 核k-means算法是标准k-means算法的推广。通过隐式地将数据映射到高维空间，核k-means可以发现输入空间中非线性可分的聚类 最近，由于特征向量，频谱聚类（spectral...
Hu矩正交不变性的理论推导
AlphaGirl的博客
09-07 1032
Hu矩正交不变性的理论推导 在CSDN和Google上查阅了很多资料，大家都只介绍了Hu矩的计算方法和应用场景（ What 和 How ），却没有人说清楚为什么Hu矩能作为平移，选择，尺度变换下均不变的图像特征（Why）。 笔者自己调研了提出Hu矩的原始论文Visual Pattern Recognition by Moment Invariants。 在论文中，作者从数学角度出发，详细推导出了Hu矩分别在平移，旋转，尺度变换下，保持不变的原因。同时，作者还构建了一个正交不变量的完备系统。理论上所有的不变量
Distribution of the ratio of an unordered eigenvalue to the trace of a complex central Wishart matrix and its application to cooperative spectrum sensing
02-22
本文探讨了复数中心Wishart矩阵中一个无序特征值与迹数之比的概率分布函数(PDF)和累积分布函数(CDF)的闭式表达式。在此基础上，研究者利用随机矩阵理论对基于特征值的频谱感知算法进行了研究，用于认知无线电。文章...
通过标签传播进行半监督正交判别分析
02-22
本文对该标准进行了重新分析，并开发了一种快速算法来寻找正交约束线迹比问题的全局最优值。 基于这个问题，我们提出了一种通过标签传播的新型半监督正交判别分析方法。 与现有的半监督降维算法不同，我们的算法...
AttributeError Traceback (most recent call last) Input In [882], in <cell line: 20>() 17 print("公因子方差:\n", communalities) 19 # 获取解释的总方差（即贡献率） ---> 20 variance_ratio = fa.explained_variance_ratio_ 21 print("\n解释的总方差（即贡献率）:\n", variance_ratio) AttributeError: 'FactorAnalysis' object has no attribute 'explained_variance_ratio_'
最新发布
06-02
这个错误提示说明 `FactorAnalysis` 对象没有 `explained_variance_ratio_` 属性。正确的属性名是 `noise_variance_`。 你可以使用下面的代码来...`np.trace(cov)` 返回协方差矩阵的迹，即它的对角线上的元素之和。
矩阵的TR迹的相关性质
热门推荐
qq_33166535的博客
11-24 5万+
参考地址：http://www.cnblogs.com/gaoshangbing/articles/1700717.html 相关概念： (1)设有N阶矩阵A，那么矩阵A的迹（用    表示）就等于A的特征值的总和，也即矩阵A的主对角线元素的总和。 1.迹是所有对角元的和 2.迹是所有特征值的和 3.某些时候也利用tr(AB)=tr(BA)来求迹 4
【机器学习】汇总详解：矩阵的迹以及迹对矩阵求导
蔚蓝的天空Tom
03-17 3万+
矩阵的迹概念        矩阵的迹 就是 矩阵的主对角线上所有元素的和。        矩阵A的迹，记作tr(A)，可知tra(A)=∑aii，1&lt;=i&lt;=n。定理：tr(AB) = tr(BA)证明定理：tr(ABC) = tr(CAB) = tr(BCA)    这个是tr(AB)=tr(BA)的推广定理，很容易证明。    根据定理tr(AB)=tr(BA)可知：       ...
矩阵迹运算
郭云飞的专栏
10-20 2万+
矩阵（方阵）迹运算返回的是矩阵对角元素的和： 迹运算因为很多原因而有用。若使用求和符号，有些矩阵运算很难描述，而通过矩阵乘法和迹运算符号，可以清楚地表示。例如矩阵F-范数（Frobenius norm）： 迹运算性质1： 设方阵A，有 迹运算性质2： 多个矩阵相乘得到的方阵的迹，和将这些矩阵中的最后一个挪到最前面之后相乘的迹是相同的。当然，我们需要考虑挪动
矩阵的迹(详解)
weixin_46713695的博客
08-10 9204
矩阵的迹
matlab 代码 一些常用的 降维算法
xiaochaoqu的专栏
07-30 1万+
http://sugiyama-www.cs.titech.ac.jp/~sugi/software/ Software The software available below is free of charge for research and education purposes. However, you must obtain a license from
pca 矩阵 迹_PCA
weixin_39699121的博客
01-14 305
降维算法PCA主成分分析, 是无监督的降维方法, 可以将你的数据降低到n-1维.它有几种不同的方式去解释原理, 下面我们来一起看看吧.最大方差理论方差大, 代表信息量比较大(数据分布较为分散, 区分度越高).样本数据是在一个n维度空间中, 我们需要找到[1, n-1]之间的维度空间的轴, 然后将样本投影到这些轴上, 下面我们来看一下, 这里我们用二维假设(便于理解, 高维类推即可).image可以...
动手学深度学习——矩阵求导之矩阵的迹和微分
时生的博客
03-21 7845
文章主要介绍了矩阵迹的性质，并将矩阵微分引入到矩阵求导中。虽然在法则和公式中涉及到了矩阵变元的实矩阵函数，但是并不介绍如何求导实矩阵函数，只介绍矩阵变元的实值标量函数利用微分求导的过程（实矩阵函数的求导过程远比实值标量函数的求导过程复杂）。...
矩阵的迹（Trace）
努力中的老周的专栏
11-24 2万+
定义 在线性代数中，一个 n*n 的矩阵 A 的迹（或迹数），是指 A 的主对角线（从左上方至右下方的对角线）上各个元素的总和，一般记作 tr(A) 或 sp(A)：。 一个矩阵的迹是其特征值得总和，按代数重数计算。 例子 矩阵 ，它的迹是 。 性质 ； ； ； ，注意：。 ...
【学习笔记】分布式追踪Tracing
云树在路上
12-23 3756
在软件工程中，Tracing指使用特定的日志记录程序的执行信息，与之相近的还有两个概念，它们分别是Logging和Metrics。 Logging：用于记录离散的事件，包含程序执行到某一点或某一阶段的详细信息，比如，应用程序的调试（debug）信息或错误（error）信息。它是我们诊断问题的依据。 Metrics：用于记录可聚合的数据，且通常是固定类型的时序数据，每个都是一个逻辑计量单元，或者一个时间段内的柱状图，比如，队列的当前深度可以被定义为一个计量单元，在写入或读取时被更新统计；输入HTTP请求的数
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值