图像模式识别之Bayes分类器

最新推荐文章于 2018-10-10 16:31:39 发布

diarymaggie

最新推荐文章于 2018-10-10 16:31:39 发布

阅读量275

点赞数

分类专栏：机器学习文章标签：模式识别

本文链接：https://blog.csdn.net/diarymaggie/article/details/9242295

版权

机器学习专栏收录该内容

6 篇文章 0 订阅

订阅专栏

#include "cv.h"

#include "highgui.h"
#include "utils.h"

#include<stack>

using namespace cv;
using namespace std;

#define PI 3.1415926
#define RADIAN(angle) ((angle)*PI/180.0)

struct pattern
{
	int number; //该类型数字样品个数
	double feature[200][25];//该类型数字样品特征，每个特征为25维
	pattern()
	{
		number=0;
	}
};

struct Position
{
	int bottom;
	int top;
	int left;
	int right;
};

pattern ptns[10]; //一共10个数字
double testsample[25]; //手写数字的特征 25维
double loss[10][10]; //风险矩阵

//判断手写数字可否保存为cls类别的一个样品 同一类别不能有重复
bool savable(int cls)
{
	for(int i=0;i<ptns[cls].number;i++)
	{
		bool flag=true;
		for(int j=0;j<25;j++)
			flag&=(fabs(ptns[cls].feature[i][j]-testsample[j])<0.0000001 ? true:false);
		if(flag) return false;
	}

	return true;
}

//将手写数字保存为cls类别中的一个样品
void Save(int cls)
{
	for(int i=ptns[cls].number;i>0;i--)
		for(int j=0;j<25;j++)
			ptns[cls].feature[i][j]=ptns[cls].feature[i-1][j];

	for(int j=0;j<25;j++)
		ptns[cls].feature[0][j]=testsample[j];

	ptns[cls].number++;
}

//计算手写数字的在图片中出现的位置
Position GetPosition(Mat& mat)
{
	int M=mat.rows;
	int N=mat.cols;

	bool flag=false;
	int i,j;
	Position ret;

	//top
	for(i=0;i<M-1;i++)
	{
		flag=false;
		for(j=0;j<N;j++)
		{
			if(mat.at<uchar>(i,j)<128)
			{
				flag=true;
				break;
			}
		}
		if(flag) break;
	}
	ret.top=i;

	//bottom
	for(i=M-1;i>0;i--)
	{
		flag=false;
		for(j=0;j<N;j++)
		{
			if(mat.at<uchar>(i,j)<128)
			{
				flag=true;
				break;
			}
		}
		if(flag) break;
	}
	ret.bottom=i;

	//left
	for(j=0;j<N-1;j++)
	{
		flag=false;
		for(i=0;i<M;i++)
		{
			if(mat.at<uchar>(i,j)<128)
			{
				flag=true;
				break;
			}
		}
		if(flag) break;
	}
	ret.left=j;

	for(j=N-1;j>0;j--)
	{
		flag=false;
		for(i=0;i<M;i++)
		{
			if(mat.at<uchar>(i,j)<128)
			{
				flag=true;
				break;
			}
		}
		if(flag) break;
	}
	ret.right=j;

	return ret;
}

double Cal(int row,int col,Position pos,Mat& mat)
{
	int w,h;
	w=(pos.right-pos.left)/5;
	h=(pos.bottom-pos.top)/5;

	int count=0;

	for(int i=pos.top+row*h;i<pos.top+(row+1)*h;i++)
	{
		for(int j=pos.left+col*w;j<pos.left+(col+1)*w;j++)
		{
			if(mat.at<uchar>(i,j)<128)
				count++;
		}
	}
	return ((double)count)/(w*h);
}
//将手写数字特征保存在变量testsample中
void SetFeature(Mat& mat,Position pos)
{
	for(int i=0;i<5;i++)
	{
		for(int j=0;j<5;j++)
		{
			testsample[5*i+j]=Cal(i,j,pos,mat);
		}
	}
}

//基于二值的贝叶斯
int Bayes()
{
	double pw[10]; //p(wj)=Nj/N
	double p[10][25]; //pj(wi)
	double pxw[10]; //p(X|wj)
	double pwx[10]; //p(wj|X)

	//先验概率
	int N=0;
	for(int i=0;i<10;i++)
		N+=ptns[i].number;
	for(int i=0;i<10;i++)
		pw[i]=(double)ptns[i].number/N;

	//类条件概率
	for(int i=0;i<10;i++)
	{
		for(int j=0;j<25;j++)
		{
			int numOfOnes=0;
			for (int k=0;k<ptns[i].number;k++)
				numOfOnes+=(ptns[i].feature[k][j]>0.1?1:0);
			p[i][j]=(double)(numOfOnes+1)/(ptns[i].number+2);
		}
	}

	for(int i=0;i<10;i++)
	{
		double temp=1.0;
		for(int j=0;j<25;j++)
		{
			temp*=(testsample[j]>0.1?p[i][j]:1-p[i][j]);
		}
		pxw[i]=temp;
	}

	//后验概率
	double PX=0.0;
	for(int i=0;i<10;i++)
		PX+=pw[i]*pxw[i];
	double maxP=0.0;
	int ret;
	for(int i=0;i<10;i++)
	{
		pwx[i]=pw[i]*pxw[i]/PX;
		if(pwx[i]>maxP)
		{
			maxP=pwx[i];
			ret=i;
		}
	}

	return ret;
}

//基于最小错误率的贝叶斯
int BayesLeastError()
{
	double X[25];
	double XMeans[25]; //均值
	double S[25][25]; //协方差矩阵
	double S_[25][25]; //S的逆矩阵
	double pw;//先验概率
	double hx[10]; //判别函数

	int total=0;
	for(int i=0;i<10;i++)
		total+=ptns[i].number;

	for(int n=0;n<10;n++) //循环类别0-9
	{
		//计算均值
		for(int i=0;i<25;i++)
			XMeans[i]=0.0;
		for(int k=0;k<ptns[n].number;k++)
			for(int i=0;i<25;i++)
				XMeans[i]+=(ptns[n].feature[k][i]>0.1?1.0:0.0);
		for(int i=0;i<25;i++)
			XMeans[i]/=(double)ptns[n].number;

		//计算协方差矩阵 注意如果样本数不大于特征维数的话，协方差矩阵会不可逆
		double mode[200][25];
		for(int i=0;i<ptns[n].number;i++)
			for(int j=0;j<25;j++)
				mode[i][j]=(ptns[n].feature[i][j]>0.1?1.0:0.0);
		for(int i=0;i<25;i++)
			for(int j=0;j<25;j++)
			{
				double s=0.0;
				for(int k=0;k<ptns[n].number;k++)
					s+=(mode[k][i]-XMeans[i])*(mode[k][j]-XMeans[j]);
				s/=(double)(ptns[n].number-1);
				S[i][j]=s;
			}

		//计算先验概率
		pw=(double)ptns[n].number/total;

		//计算S的逆矩阵
		for(int i=0;i<25;i++)
			for(int j=0;j<25;j++)
				S_[i][j]=S[i][j];

		double (*p)[25]=S_;
		brinv(*p,25);

		//计算S的行列式 
		double (*pp)[25]=S;
		double DetS;
		DetS=bsdet(*pp,25);

		//判别函数
		for(int i=0;i<25;i++)
			X[i]=(testsample[i]>0.1?1.0:0.0);
		for(int i=0;i<25;i++)
			X[i]-=XMeans[i];
		double t[25];
		for(int i=0;i<25;i++)
			t[i]=0.0;
		brmul(X,S_,25,t);
		double t1=brmul(t,X,25);
		double t2=log(pw);
		double t3=log(DetS+1);
		hx[n]=-t1/2+t2-t3/2;
	}

	double maxVal=hx[0];
	int ret=0;
	for(int n=1;n<10;n++)
	{
		if(hx[n]>maxVal)
		{
			maxVal=hx[n];
			ret=n;
		}
	}

	return ret;
}

//基于最小风险的贝叶斯
int BayesLeastRisk()
{
	double X[25];
	double XMeans[25];
	double S[25][25];
	double S_[25][25];
	double P[10];
	double pw;
	double hx[10];

	int total =0;
	for(int i=0;i<10;i++)
		total+=ptns[i].number;

	for(int n=0;n<10;n++)
	{
		//均值
		for(int i=0;i<10;i++)
			XMeans[i]=0.0;
		for(int k=0;k<ptns[n].number;k++)
			for(int i=0;i<25;i++)
				XMeans[i]+=ptns[n].feature[k][i]>0.3?1.0:0.0;
		
		for(int i=0;i<25;i++)
			XMeans[i]/=(double)ptns[n].number;

		//协方差矩阵
		double mode[100][25];
		for(int i=0;i<ptns[n].number;i++)
			for(int j=0;j<ptns[n].number;j++)
				mode[i][j]=ptns[n].feature[i][j]>0.3?1.0:0.0;

		for(int i=0;i<25;i++)
			for(int j=0;j<25;j++)
			{
				double s=0.0;
				for(int k=0;k<ptns[n].number;k++)
					s+=(mode[k][i]-XMeans[i])*(mode[k][j]-XMeans[j]);
				s/=(double)(ptns[n].number-1);
				S[i][j]=s;
			}

		//先验概率
		pw=(double)ptns[n].number/total;

		//S的逆矩阵
		for(int i=0;i<25;i++)
			for(int j=0;j<25;j++)
				S_[i][j]=S[i][j];

		double (*p)[25]=S_;
		brinv(*p,25);

		//S的行列式
		double (*pp)[25]=S;
		double DetS=bsdet(*pp,25);

		//判别函数
		for(int i=0;i<25;i++)
			X[i]=testsample[i]>0.3?1.0:0.0;
		for(int i=0;i<25;i++)
			X[i]-=XMeans[i];
		double t[25];
		for(int i=0;i<25;i++)
			t[i]=0.0;
		brmul(X,S_,25,t);
		double t1=brmul(t,X,25);
		double t2=log(pw);
		double t3=log(DetS+1);

		P[n]=-t1/2+t2-t3/2;
	}

	for(int n=0;n<10;n++)
	{
		double t=0.0;
		for(int i=0;i<10;i++)
			t+=loss[n][i]*P[i];
		hx[n]=t;
	}

	double maxVal=hx[0];
	int ret=0;
	for(int n=1;n<10;n++)
	{
		if(maxVal<hx[n])
		{
			maxVal=hx[n];
			ret=n;
		}
	}

	return ret;
}

int main()
{
	//读取图像
	Mat image;

	//样本库特征提取
	int cls;
	char filename[100]="a.txt";
	char filePath[100];
	FILE* fp=fopen(filename,"r");
	while(fscanf(fp,"%d%s",&cls,filePath))
	{
		if(cls==-1)
			break;
		Mat image=imread(filePath,CV_LOAD_IMAGE_GRAYSCALE);
		Position pos=GetPosition(image);
		SetFeature(image,pos);
		if(savable(cls))
			Save(cls);
	}
	fclose(fp);

	image=imread("testsample.jpg",CV_LOAD_IMAGE_GRAYSCALE);
	//计算手写数字的位置
	Position pos=GetPosition(image);
	//计算手写数字的特征
	SetFeature(image,pos);

	printf("%d\n",BayesLeastError());
	//cvNamedWindow("test",CV_WINDOW_AUTOSIZE);
	//imshow("test",image);

	waitKey(0);
	return 0;
}