PCA算法的原理以及c++实现

PCA主成分分析，是模式识别中常见的特征降维的算法，其大体步骤可以分为以下几个部分：

（1）原始特征矩阵归一化处理（假设M和样本，每个样本n个特征，则对M*N的X数据，进行零均值化，即减去这一列的均值）

（2）求取归一化处理后特征矩阵的协方差矩阵

（3）计算协方差矩阵的特征值及其对应的特征向量

（4）将特征向量按对应特征值大小从上到下按行排列成矩阵，取前k行组成矩阵P；

（5）Y=PX即为降维到k维后的数据;

数据类型：（保存到文本里面即可读取）

10 2
2.5 2.4
0.5 0.7
2.2 2.9
1.9 2.2
3.1 3.0
2.3 2.7
2.0 1.6
1.0 1.1
1.5 1.6
1.1 0.9

这里先贴出完整代码，后续有时间，会具体整理一下算法流程：

#include<iostream>
#include<algorithm>
#include<cstdlib>
#include<fstream>
#include "Eigen/Dense"
using namespace std;
using namespace Eigen;
void featurenormalize(MatrixXd &X)
{
	//计算每一维度均值
	MatrixXd meanval = X.colwise().mean();
	RowVectorXd meanvecRow = meanval;
	//样本均值化为0
	X.rowwise() -= meanvecRow;
}
void computeCov(MatrixXd &X, MatrixXd &C)
{
	//计算协方差矩阵C = XTX / n-1;
	C = X.adjoint() * X;
	C = C.array() / (X.rows() - 1);
}
void computeEig(MatrixXd &C, MatrixXd &vec, MatrixXd &val)
{
	//计算特征值和特征向量，使用selfadjont按照对阵矩阵的算法去计算，可以让产生的vec和val按照有序排列
	SelfAdjointEigenSolver<MatrixXd> eig(C);

	vec = eig.eigenvectors();
	val = eig.eigenvalues();
}
int computeDim(MatrixXd &val)
{
	int dim;
	double sum = 0;
	for (int i = val.rows() - 1; i >= 0; --i)
	{
		sum += val(i, 0);
		dim = i;

		if (sum / val.sum() >= 0.95)
			break;
	}
	return val.rows() - dim;
}
int main()
{
	ifstream fin("test_data");
	ofstream fout("output.txt");
	//读取数据
	double a, b; fin >> a; fin >> b;
	std::cout << "pass " << a << "  " << b << std::endl;

	const int m = a, n = b;
	MatrixXd X(m, n), C(n, n);
	MatrixXd vec, val;

	
	double in[200];
	for (int i = 0; i < m; ++i)
	{
		for (int j = 0; j < n; ++j)
			fin >> in[j];
		for (int j = 1; j <= n; ++j)
			X(i, j - 1) = in[j-1];
	}
	//pca

	//零均值化
	featurenormalize(X);
	//计算协方差
	computeCov(X, C);
	std::cout << "cov: \n" << C << std::endl;
	//计算特征值和特征向量
	computeEig(C, vec, val);
	//计算损失率，确定降低维数
	int dim = computeDim(val);
	std::cout << val << std::endl;
	std::cout << vec << std::endl;
	//计算结果
	MatrixXd res = X * vec.rightCols(n);
	//输出结果
	fout << "the result is " << res.rows() << "x" << res.cols() << " after pca algorithm." << endl;
	fout << res;
	fout.close();
	system("pause");
	return 0;
}

 

参考：

https://blog.csdn.net/HLBoy_happy/article/details/77146012 

https://blog.csdn.net/Qer_computerscience/article/details/71246634?depth_1-utm_source=distribute.pc_relevant.none-task&utm_source=distribute.pc_relevant.none-task

https://blog.csdn.net/qq_36812406/article/details/80600068?depth_1-utm_source=distribute.pc_relevant.none-task&utm_source=distribute.pc_relevant.none-task

https://blog.csdn.net/watkinsong/article/details/38536463

https://blog.csdn.net/panhao762/article/details/55273789 

https://blog.csdn.net/zmdsjtu/article/details/77932176

https://blog.csdn.net/u010442908/article/details/81182405?depth_1-utm_source=distribute.pc_relevant.none-task&utm_source=distribute.pc_relevant.none-task