- 博客(19)
- 收藏
- 关注
RSS订阅
原创 模式识别
模式识别简介对个体客观事物或现象（的时间或空间分布信息）进行分类或辨别的过程就是模式识别(Pattern Recognition)。模式识别理论所用的主要方法有：统计模式识别，句法模式识别，人工神经元网络模式识别，其他现代模式识别方法等；1.模式识别实例 人类认识客观事物或者现象的过程 我们可以将人类认识客观事物或者现象的过程大致分类三个阶段： 学习——由自发的...
2018-06-17 17:26:56
4868
转载 机器学习算法（3） 概率图模型之三
概率图模型之条件随机场条件随机场应该是机器学习领域比较难的一个算法模型了，难点在于其定义之多（涉及到概率图模型、团等概率）、数学上近似完美（涉及到概率、期望计算，最优化方面的知识），但是其在自然语言处理方面应用效果比较好，所以本文结合李航老师的《统计学习方法》学习一下。1.定义1.1 图 图是由结点和连接结点的边组成的集合。结点和边分别记作v和e，结点和边的集合分别记作V和E，图记作G=（V，E...
2018-07-06 10:31:38
1967
原创 模式识别--统计模式识别（7）
统计模式识别——Bayes分类器（3）上两节我们介绍了最小错误率和最小风险Bayes分类器，接下来谈谈最小最大决策。最小最大Bayes决策1.问题提出（假设C=2）现在我们假定一种情况，先验概率未知或者不确定的前提，在这种前提下，绝对意义的最小风险不存在，这种情况下我们怎么求Bayes分类器。2.求解思路虽然P(ω1) 和P(ω2)未知，但我们可以假设他们确定，在先验概率确定的前提下设计一系列最小...
2018-06-24 14:39:57
898
原创 模式识别--统计模式识别（6）
统计模式识别——Bayes分类器（2）上一节，我们讨论了最小错误率分类器，接下来这一节我们将讨论最小风险Bayes分类器。最小风险Bayes分类器1.问题提出1.最小错误率Bayes决策的最小错误率——概率意义上最优，在工程上是否是最优?2.错误分类的结果、代价或风险会是怎样的？（考虑癌细胞图像识别的例子）3.出错的可能情况：正常细胞ω1错分为异常ω2，异常细胞ω2错分为正常ω1，这两者的代价应该...
2018-06-23 17:12:50
458
原创 模式识别--统计模式识别（5）
统计模式识别——Bayes分类器（1）首先我们回顾一下前几节介绍的几个线性分类器垂直平分分类器：未经优化，错误率通常较大；感知器:优化（求线性可分样本集的解），最终错误率未知（条件苛刻，要求样本线性可分）；最小平方误差：优化（样本集MSE的解），最终错误率未知（条件相对比较宽松，取消样本线性可分的要求）；Bayes分类器1.问题提出之前几节介绍的分类器错误率都属于未知情况，很难做一个量化的描述，所...
2018-06-23 15:43:08
1027
原创 模式识别--句法模式识别（4）
句法分析串语言的句法分析上一节我们介绍过了串语言的自动机分析，这一节我们主要介绍串语言的句法分析。句法分析概要利用产生式直接推导，实现串语言的识别。句法分析是一种遍历算法——穷举所有可能。句法分析方法分类 自顶向下推导给定文法G和待识别符号串x ，从起始符S开始，利用产生式集合P中的产生式，尝试推导出符号串x。 自底向上推导给定文法G和待识别符号串x ，从符号串x开始，利用产生式集合P...
2018-06-22 21:59:59
2090
2
原创 模式识别--句法模式识别（3）
自动机理论1.自动机概念自动机是语言和串的识别装置；同时，自动机也是从识别的观点来定义语言的一种方法。用能够被某种识别装置所接受的串的集合来定义语言，记为L(A)。2.Chomsky文法模型对应的自动机模型3.有限自动机有限自动机概述有限自动机是最简单的语言识别装置，有限自动机只能处理正则文法所产生的语言。有限自动机组成状态寄存器，只读头，输入带有限自动机模型有限自动机的运行模型状态寄存器的状态—...
2018-06-22 20:33:18
641
原创 模式识别--句法模式识别（2）
句法模式识别理论支持1.形式语言诞生形式语言的研究开始于上个世纪五十年代，动机：描述人类语言，基于Chomsky提出文法的数学模型。发展成果1. 计算机语言的描述2. 图像结构模式的描述3. 机器翻译相关概念Grammar /Grammars：语法/文法；Syntax/Syntactic：句法；实例分析文法相关概念导出树：该句子的文法（G）推导过程非终止符号：其它节点终止符号：叶节点起始符号：根节...
2018-06-21 22:08:40
1289
原创 模式识别--句法模式识别（1）
句法模式识别简介1.结构模式识别图形或图像目标的形状或结构千变万化，目标（模式）的差异也在于其形状或结构的不同，这种模式称为结构模式，基于形状或结构的模式识别称为结构模式识别。2.结构模式描述图像链码数字图像处理学中，链码是描述目标边缘和轮廓的常用的编码方法。用字符或符号的来表示图像目标的局部边缘的走向。Freeman链码（图像像元之间边缘的走向用方向代码（即字符）来表示）例：结构模式编码结构模式...
2018-06-21 20:57:20
3414
原创 模式识别--统计模式识别（8）
统计模式识别——非线性分类器1.非线性分类器基础非线性分类器概念很多情况下我们并不能保证类别间的分类面是线性的（线性是最简单的情况），而且许多复杂问题中，可能采用非线性分类器更适合问题的解决。非线性分类器的模型分界面可以是曲面或者超平面的组合。2.非线性分类器的类别划分常用的非线性分类器主要有两大类：基于判别函数的和非基于判别函数的；基于判别函数的非线性分类器1）分段线性分类器：基于非线性函数可以...
2018-06-21 13:05:01
504
原创 模式识别--统计模式识别（3）
统计模式识别——各种各样的线性分类器1.垂直平分分类器（最小距离分类器）设计思路基于两类样本均值点作垂直平分线分类器的垂直平分形式对于两类二维问题（C=2,D=2）对于任何的线性分类器都有线性判别函数：g(x) = wTx + w0，决策面方程为：g(x) = 0即wTx + w0= 0.求解步骤1. 对于C=2，先求两类样本的均值m1和m2（m1和m2都为向量）；2. 利用垂直几何关系，因为w为...
2018-06-20 17:42:59
1744
原创 模式识别--统计模式识别（2）
统计模式识别——线性分类器1.线性分类器基础基本概念线性分类器：对于两类的分类问题，采用线性判别函数划分特征空间（即采用直线或平面等将两类样本在特征空间中的区域划分开），这样的分类器是线性分类器。 线性分类器特点：特征空间一分为二，适合于解决两类的分类问题对于两类二维问题来说，分类依据是一条直线。这条直线的代数方程为：w1x1+ w2x2+ w0= 0这条直线的向量形式为：wTx + ...
2018-06-18 23:00:33
656
原创 模式识别--统计模式识别（1）
统计模式识别1.统计模式识别基本概念特征（Feature）特征是可以用来体现类别之间相互区别的某个或某些数学测度，测度的值称为特征值。样本（Sample）被分类或识别的模式个体称为样本，特征值必须由样本的原始数据计算得到。特征空间（Feature Space）由所有特征值为变量轴所形成的欧氏空间。特征向量（Feature Vector）以所有特征值为其分量的向量。训练和学习训练（Training）...
2018-06-17 18:23:39
5501
原创 机器学习算法（1） 线性回归算法
线性回归算法（Linear Regression）首先需要明确的是该算法属于监督学习里的回归问题数据准备训练集--一个带标签的数据集m代表训练样本的数目，x用来表示输入变量或者是输入的特征标量，y用来表示输出变量或者叫做目标变量。（x，y）就是一个训练样本。框图表示线性回归流程数学语言表示线性回归的流程...
2018-06-16 14:22:18
276
原创 机器学习准备阶段
机器学习的基本概念--监督学习和非监督学习1.监督学习（Supervised learning） 对一个算法来说，需要部分数据集已经有了正确的标签，算法需要预测出更多的正确答案，监督学习又分为回归问题和分类问题。回归问题（regression） 算法预测的是一个连续的输出值分类问题（classification) 算法预测的是一个离散的输出（离散的输出可以代表着数据集的某种属性）...
2018-06-16 13:45:07
187
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人