【手写数字识别】贝叶斯+线性分类器手写数字识别【含GUI Matlab源码 828期】

最新推荐文章于 2024-06-06 11:08:18 发布

Matlab武动乾坤

最新推荐文章于 2024-06-06 11:08:18 发布

阅读量963

点赞数 20

分类专栏： Matlab图像处理（进阶版）文章标签： matlab

本文链接：https://blog.csdn.net/KeepingMatlab/article/details/135863349

版权

Matlab图像处理（进阶版）专栏收录该内容

844 篇文章 19 订阅

订阅专栏

✅博主简介：热爱科研的Matlab仿真开发者，修心和技术同步精进，Matlab项目合作可私信。
🍎个人主页：海神之光
🏆代码获取方式：
海神之光Matlab王者学习之路—代码获取方式
⛳️座右铭：行百里者，半于九十。

⛄一、分类器手写数字识别简介

1 贝叶斯分类器
贝叶斯分类器是以贝叶斯原理为基础的分类器的总称，是一种生成式模型，朴素贝叶斯分类器是其中最简单的一种。要高明白贝叶斯分类器的原理，首先得明白一些基本概念。
1.1 基本概念
先验概率：根据统计/经验得到的某事情发生的概率，比如北京下雨的概率可以通过以往的经验或者统计结果得到。
后验概率：在一定条件下某事情发生的概率，比如北京天空出现乌云(因)会下雨(果)的概率。
条件概率：事情发生时某条件出现的概率，比如北京下雨(果)会出现乌云(因)的概率。
1.2 贝叶斯公式
在这里插入图片描述
1.3 朴素贝叶斯分类器

和其他数据挖掘或者模式识别中采用的分类器相同，应用贝叶斯分类器对对象或者数据进行分类的过程可以分成两步：第一步，对模型的训练，即从样本数据中进行学习；第二步是用训练出的模型对数据或者对象进行分类。在模型的训练过程以及后续的识别过程中，模型计算的复杂度会影响计算的效率以及结果。对于贝叶斯分类器而言，往往需要进行简化，本文采用主成分分析法来减少贝叶斯分类器的输入属性数目，从而减少训练分类器所消耗的时间。

2 线性分类器的原理和建立
2.1线性分类器的原理
当样本通过变换映射为特征向量以后，它就成为了特征空间中的点。而由于每个类中的样本会具有某些共性，即特征会有不同，那么属于一个类的样本集的点集，总是会与别的类的]点集相分离，那么如果我们可以找到一个函数，能够把不同的点集相分离，那我们的任务也就解决了。由于判别函数法不依赖于概率密度分布的统计学知识，我们可以理解为将样本通过他们的特征用几何方法，将整个空间分解为不同类的子空间。
判别函数法可以根据边界所代表的函数划分为线性和非线性分类器。由于线性分类器涉及数学方法较为简单，实现更简便，我们选取了线性分类器作为本文研究方向。
凤摘录对于手写数字识别，我们可以知道一共有10类模式to，t1…tg，而我们预处理后，共有49个特征值，那么我们可以用X=(X1，…x49)来表示样本。由于有10个模式类，那么线性判别函数形式为：
在这里插入图片描述
由于有10个模式类我们就需要给出10个判别函数：d0(X),d1(X），……d9(X），若X属于第i类，则有：

图1 线性多类分类器形式
2.2 “奖惩”算法
我们使用判别函数最大值的方式，由于手写数字识别的10个类，我们需要10个函数。
若在第k次迭代时，样品X(k）属于ti类，在“奖惩算法”中，我们需要对10个函数都进行计算。
2.2.1 若di[X(k)]>dj[X(k)]则权矢量不需要加以修正。
在这里插入图片描述
2.2.2 若di[X(k)]≤dj[X(k)]则按下式进行修正：

2.3 测试结果
以10000个样本作为测试集，进行测试，得到数据如下：

我们可以看到，在训练集样本容量增加超过10000后，正确率可达到84%上下波动，在测试了25000和35000个样本后，我们发现在训练集容量为30000，达到极大值82.41%。随着样本集容量增加，训练时间也会相应增加，每增加10000个样本，训练时间增加量会递增，但总体在0.5s以内，扔在可控范围之内。虽然得到了能够接受的训练成果，而且运算速度较快，算法实现简单，但是这样的正确率显然是不足以投入实际应用中去的。

⛄二、部分源代码

function varargout = Classification(varargin)
% Begin initialization code - DO NOT EDIT
gui_Singleton = 1;
gui_State = struct(‘gui_Name’, mfilename, …
‘gui_Singleton’, gui_Singleton, …
‘gui_OpeningFcn’, @Classification_OpeningFcn, …
‘gui_OutputFcn’, @Classification_OutputFcn, …
‘gui_LayoutFcn’, [] , …
‘gui_Callback’, []);
if nargin && ischar(varargin{1})
gui_State.gui_Callback = str2func(varargin{1});
end

if nargout
[varargout{1:nargout}] = gui_mainfcn(gui_State, varargin{:});
else
gui_mainfcn(gui_State, varargin{:});
end
% End initialization code - DO NOT EDIT

% — Executes just before Classification is made visible.
function Classification_OpeningFcn(hObject, eventdata, handles, varargin)
handles.output = hObject;
% Update handles structure
guidata(hObject, handles);

%--------------------------------------------------------------------------
global flag
flag=0;

if exist(‘template.mat’,‘file’)~=0
load template pattern;
else
pattern(1,1).num=0;
pattern(1,1).feature=[];

pattern(1,2).num=0;
pattern(1,2).feature=[];

pattern(1,3).num=0;
pattern(1,3).feature=[];

pattern(1,4).num=0;
pattern(1,4).feature=[];

pattern(1,5).num=0;
pattern(1,5).feature=[];

pattern(1,6).num=0;
pattern(1,6).feature=[];

pattern(1,7).num=0;
pattern(1,7).feature=[];

pattern(1,8).num=0;
pattern(1,8).feature=[];

pattern(1,9).num=0;
pattern(1,9).feature=[];

pattern(1,10).num=0;
pattern(1,10).feature=[];
save template pattern;

end
%------------------------------------------------------------------------

% — Outputs from this function are returned to the command line.
function varargout = Classification_OutputFcn(hObject, eventdata, handles)
varargout{1} = handles.output;

%--------------------------------------------------------------------------
%手写板实现—按下左键开始画直线
function figure1_WindowButtonDownFcn(hObject, eventdata, handles)
%clc

global flag
global pos0 %
global x0 y0

pos0=get(handles.WritingAxes,‘currentpoint’);
x0=pos0(1,1);
y0=pos0(1,2);
if (pos0(1,1)>=0&pos0(1,1)<=100) && (pos0(1,2)>=0&pos0(1,2)<=100)
flag=1;
end
%--------------------------------------------------------------------------

%--------------------------------------------------------------------------
function figure1_WindowButtonMotionFcn(hObject, eventdata, handles)
%clc
%手写板实现—移动鼠标进行画线实现的程序

global flag
global pos0
global x0 y0

pos=get(handles.WritingAxes,‘currentpoint’);
x=pos(1,1);
y=pos(1,2);
if flag && (pos(1,1)>=0&pos(1,1)<100) && (pos(1,2)>=0&pos(1,2)<100)
line(x,y, ‘marker’, ‘.’,‘markerSize’,18, ‘LineStyle’,‘-’,‘LineWidth’,2,‘Color’,‘Black’);
if x>x0
stepX=0.1;
else
stepX=-0.1;
end
if y>y0
stepY=0.1;
else
stepY=-0.1;
end
X=x0:stepX:x;

  if abs(x-x0)<0.01    
      Y=y0:stepY:y;     
  else
     Y=(y-y0)*(X-x0)/(x-x0)+y0;   
  end
  line(X ,Y, 'marker', '.','markerSize',18, 'LineStyle','-','LineWidth',2,'Color','Black');
  x0=x;
  y0=y;
  pos0=pos;

else
flag=0;
end
%-------------------------------------------------------------------------

%-------------------------------------------------------------------------
function figure1_WindowButtonUpFcn(hObject, eventdata, handles)
%clc
%手写板实现程序—释放鼠标左键结束画线的程序
global flag
flag=0;

%global data
data=[];
Img=getframe(handles.WritingAxes);
imwrite(Img.cdata,‘当前手写数字.bmp’,‘bmp’);
I=imread(‘当前手写数字.bmp’);
I=rgb2gray(I);
I=im2bw(I);
imwrite(I,‘当前手写数字.bmp’,‘bmp’);
I=imread(‘当前手写数字.bmp’);
data=GetFeature(I);
%--------------------------------------------------------------------------
function y=BayesLeastRisk(data)
clc;
load template pattern;

%将数字特征转化为0、1两个数值表示
for i=1:10
for j=1:25
for k=1:pattern(1,i).num
if pattern(1,i).feature(j,k)>0.1
pattern(1,i).feature(j,k)=1;
else
pattern(1,i).feature(j,k)=0;
end
end
end
end

[pc_template,pc_data]=pcapro(data); %主成分分析
temp=0;
for i=1:10
pattern(1,i).feature=pc_template(:,temp+1:temp+pattern(1,i).num);
temp=temp+pattern(1,i).num;
end

%求协方差矩阵、协方差矩阵的逆矩阵、协方差矩阵的行列式
s_cov=[];
s_inv=[];
s_det=[];

for i=1:10
s_cov(i).data=cov(pattern(1,i).feature’);
s_inv(i).data=inv(s_cov(i).data);
s_det(i)=det(s_cov(i).data);
end

⛄三、运行结果

在这里插入图片描述

⛄四、matlab版本及参考文献

1 matlab版本
2014a

2 参考文献
[1]汪青,干静.模式分类器在手写体数字识别中的应用比较研究[J].装备制造技术. 2008,(05)

3 备注
简介此部分摘自互联网，仅供参考，若侵权，联系删除

🍅 仿真咨询
1 各类智能优化算法改进及应用
生产调度、经济调度、装配线调度、充电优化、车间调度、发车优化、水库调度、三维装箱、物流选址、货位优化、公交排班优化、充电桩布局优化、车间布局优化、集装箱船配载优化、水泵组合优化、解医疗资源分配优化、设施布局优化、可视域基站和无人机选址优化

2 机器学习和深度学习方面
卷积神经网络（CNN）、LSTM、支持向量机（SVM）、最小二乘支持向量机（LSSVM）、极限学习机（ELM）、核极限学习机（KELM）、BP、RBF、宽度学习、DBN、RF、RBF、DELM、XGBOOST、TCN实现风电预测、光伏预测、电池寿命预测、辐射源识别、交通流预测、负荷预测、股价预测、PM2.5浓度预测、电池健康状态预测、水体光学参数反演、NLOS信号识别、地铁停车精准预测、变压器故障诊断

3 图像处理方面
图像识别、图像分割、图像检测、图像隐藏、图像配准、图像拼接、图像融合、图像增强、图像压缩感知

4 路径规划方面
旅行商问题（TSP）、车辆路径问题（VRP、MVRP、CVRP、VRPTW等）、无人机三维路径规划、无人机协同、无人机编队、机器人路径规划、栅格地图路径规划、多式联运运输问题、车辆协同无人机路径规划、天线线性阵列分布优化、车间布局优化

5 无人机应用方面
无人机路径规划、无人机控制、无人机编队、无人机协同、无人机任务分配

6 无线传感器定位及布局方面
传感器部署优化、通信协议优化、路由优化、目标定位优化、Dv-Hop定位优化、Leach协议优化、WSN覆盖优化、组播优化、RSSI定位优化

7 信号处理方面
信号识别、信号加密、信号去噪、信号增强、雷达信号处理、信号水印嵌入提取、肌电信号、脑电信号、信号配时优化

8 电力系统方面
微电网优化、无功优化、配电网重构、储能配置

9 元胞自动机方面
交通流人群疏散病毒扩散晶体生长

10 雷达方面
卡尔曼滤波跟踪、航迹关联、航迹融合