线性判别函数
1.1
用于分类的判别函数的参数形式已知,直接从样本来估计判别函数的参数。
优势:不需要有关概率密度函数的确切的参数形式。因此,属于
无参数估计。
利用样本直接设计分类器
1、方法分类:
线性判别函数、支持向量机、fisher线性判别函数
广义线性判别函数、非线性判别函数、核学习机
2、基本思想:
-步一:给定一个判别函数,且已知该函数的参数形式
-步二:采用样本来训练判别函数的参数
-步三:对于新样本,采用判别函数对其进行决策,并按照一些准则来完成分类
学习判别函数的基本技术路线
-假定有n个d维空间中的样本,每个样本的类别标签已知,且一共有c个不同的类别
-假定判别函数的形式已知,寻找一个判别函数
-对于给定的新样本x,判定它属于哪个类别
基于判别函数的分类器
-采用已知类别标签的训练样本进行学习,获得若干个代数界面,这些界面将样本所在的空间分成若干个相互不重叠的区域。每个区域包含属于同一类的样本。
-表示界面的函数称为判别函数
-判别函数是分类器最常用的表述形式
基于判别函数的判别准则
贝叶斯决策中提到的比如:
线性可分(针对训练样本)