《典型相关分析(CCA)附算法应用及程序》由会员分享,可在线阅读,更多相关《典型相关分析(CCA)附算法应用及程序(15页珍藏版)》请在人人文库网上搜索。
1、典范相关分析摘要利用典型相关分析的思想,解决了两组特征向量构成的总协方差矩阵为奇异时的典型投影向量集的求解问题,使其适用于高维小样本的情况,扩展了典型相关分析的应用范围。首先,讨论了典型分析应用于模式识别的理论框架,并给出了合理的描述。也就是说,首先提取相同模式的两组特征向量。建立描述两组特征向量之间相关性的准则函数,然后根据该准则获得两组典型投影向量集,并通过给定的特征融合策略提取组合的典型相关特征用于分类。最后,从理论上进一步分析了该方法能够有效用于分类和识别的内在本质。该方法巧妙地利用两组特征向量之间的相关特征作为有效的判别信息,不仅达到了信息融合的目的,而且消除了特征之间的信息冗余,为。
2、两组特征融合的分类识别提供了新的思路。1.典型相关分析发展的背景随着计算机技术的发展,信息融合技术已经成为一种新的数据处理技术,并取得了可喜的进展。信息融合包括三个层次:像素级、特征级和决策级。特征融合总是反映同一模式的不同特征对同一模式提取的不同特征向量的有效识别信息,提取同一模式的两组特征向量,在一定程度上消除了主客观因素造成的冗余信息,这对于分类识别无疑具有重要意义典型相关分析是处理两组随机变量之间关系的统计方法。其意义在于:描绘了原始两组变量之间的关系与典型相关变量之间的关系!实现数据融合和降维!降低计算的复杂性。2.典型相关分析的基本思想CCA旨在找到两组投影方向,以便在投影后最大化。
3、两个随机向量之间的相关性。具体来说,有两组零均值随机变量CCA必须首先找到一对投影方向和,这样投影的和具有最大的相关性,并且是第一对典型变量。随着,寻找第二对投影方向的和,得到第二对典型变量的和,使它与第一对典型变量无关,而与之间有最大的相关性。这种情况一直持续到提取出x和y的典型变量。因此,只有通过分析几对典型变量之间的关系,才能实现X和Y之间的相关性分析。3.CCA算法的详细说明(1)(2)(3)考虑到:的极值仅与和的方向有关,而与它们的大小无关,为了在不丧失一般性的情况下获得唯一的解,增加了限制条件:(4)问题变成在约束条件下,拉格朗日函数:可以通过找到使标准函数最大化的典型投影向量对并。
4、解决上述优化问题来定义(5)分别计算和的导数,并使其为零,从而获得:(6