1. 绪论
1.1 基本概念
1.1.1 样本,模式和模式类等概念间的关系
模式类和模式:具有某些共同特性的类别或类的总称,通常采用特定的抽象符号来表示。模式表示具体的抽象事物,模式类则是对这一类事物的概念性描述。
样本:个别具体的模式称为样本。
样本是具体的个体,而模式是对同一类事物概念性的概括。
模式识别用计算方法根据样本特征将样本划分到某个特定的类别中,是从样本到类别的映射。
1.1.2 基本术语
模式(Pattern):为执行和完成识别任务,对分类识别对象进行科学的抽象,建立其数学模型,用以描述和代替识别对象,这种对象特性的描述就是模式。如规律、模板、特征组合等。
模式的表现形式:特征矢量、符号串、图、关系式。
样本(sample):所研究对象的一个个体,是一类事物的一个具体体现或实例。
1.2 模式识别和人工智能的意义
人工智能可以推动我们社会的经济的发送,人工智能的技术可以被运用到医疗、教育、公共交通、制造业等诸多的领域中。人工智能的发展具有广阔的空间,人工智能可以推动着新兴业态的发展,实现经济发展的形态变革。
2. 基本概念
2.1 模式识别的系统组成
2.2 模型评估方法
留出法、k折交叉验证、留一法
3. 统计决策方法
3.1 贝叶斯决策*
3.1.1 先验概率,类条件概率密度函数和后验概率等概念间的关系
3.1.2 最小错误率贝叶斯决策
利用后验概率进行分类,看X来自哪类的概率大选择哪类
例题:
3.1.3 基于最小风险的Bayes决策
例题:
3.2 正态分布
3.3 参数估计的基本概念及其评价标准
3.3.1 估计量的评价标准
3.3.2 例题
3.4 朴素贝叶斯分类器
4. 线性模型
4.1 线性回归
4.2 线性判别函数
4.2.1
4.2.2 wi⁄wj两分法
4.2.3
4.3 广义线性判别函数
通过某映射,把模式空间X变成 X*,以便将X空间中非线性可分的模式集,变成在 X* 空间中线性可分的模式集。
4.4 Fisher线性判别
4.4.1 例题
4.5 感知器准则
5. 机器学习和知识发现
6. 决策树
7. 神经网络学习*
7.1 人工神经元模型*
7.2 感知器的线性分类及其局限
7.3 多层感知器到BP神经网络
7.4 神经元学习规则
7.4.1 无监督学习规则:Hebb学习规则
7.4.2 有监督学习规则:Delta学习规则
Delta学习规则是一种简单的有监督学习算法,根据神经元的实际输出与期望输出差别来调整连接权值。
8. 深度学习
9. 特征选择与提取
9.1 特征选择和特征提取的概念,作用和区别*
9.1 遗传算法基本原理
9.1.1 遗传算法基本步骤
9.1.2 遗传算法的优缺点
优点:
-
通过变异机制避免算法陷入局部最优,搜索能力强
-
引入自然选择中的概率思想,个体的选择具有随机性
-
可拓展性强,易于与其他算法进行结合使用
9.2 PCA主成分分析
10. 例题
协方差