2015年12月_Eason.wxd

原创 Android NDK开发之 NEON基础介绍

这是官方介绍：http://www.arm.com/zh/products/processors/technologies/neon.php一、NEON简介ARM® NEON™ 通用 SIMD 引擎可有效处理当前和将来的多媒体格式，从而改善用户体验。NEON 技术可加速多媒体和信号处理算法（如视频编码/解码、2D/3D 图形、游戏、音频和语音处理、图像处理技术、电话和声音合成），其

2015-12-30 14:04:24 7792

原创系统学习机器学习之算法评估

一、引言　　分类算法有很多，不同分类算法又用很多不同的变种。不同的分类算法有不同的特定，在不同的数据集上表现的效果也不同，我们需要根据特定的任务进行算法的选择，如何选择分类，如何评价一个分类算法的好坏，前面关于决策树的介绍，我们主要用的正确率（accuracy）来评价分类算法。　　正确率确实是一个很好很直观的评价指标，但是有时候正确率高并不能代表一个算法就好。比如某个地区某天地震的预测，假

2015-12-29 11:21:02 11482

原创系统学习机器学习之组合多分类器

现在为止我们也了解了不少机器学习相关的算法，实际上，每个算法都有自己的假设条件，不同的归纳偏倚会有不同的数据符合度。一般来说，我们可以针对同一个数据集使用多个机器学习算法，然后比较算法的契合度，基本就是准确率，然后选择最合适的一个。但是也存在一些情况，所有单个算法都不能达到我们预期的准确率，此时我们就要考虑组合学习了。组合学习，顾名思义，就是对于数据集同时使用多个机器学习算法，从而获得算法优劣

2015-12-29 11:01:55 13060 1

原创系统学习机器学习之随机场(一)--HMM

HMM(隐马尔科夫模型)是自然语言处理中的一个基本模型，用途比较广泛，如汉语分词、词性标注及语音识别等，在NLP中占有很重要的地位。网上关于HMM的介绍讲解文档很多，我自己当时开始看的时候也有点稀里糊涂。后来看到wiki上举得一个关于HMM的例子才如醍醐灌顶，忽然间明白HMM的三大问题是怎么回事了。例子我借助中文wiki重新翻译了一下，并对三大基本问题进行说明，希望对读者朋友有所帮助：　　Al

2015-12-26 15:08:18 8244

原创系统学习机器学习之SVM(一)

原文引自：http://blog.csdn.net/sunanger_wang/article/details/7887218此处，我做下补充。一、线性分类器：首先给出一个非常非常简单的分类问题（线性可分），我们要用一条直线，将下图中黑色的点和白色的点分开，很显然，图上的这条直线就是我们要求的直线之一（可以有无数条这样的直线）假如说，我们令黑色的点 = -1，白色的

2015-12-23 11:13:15 8130

原创系统学习机器学习之神经网络（一）--MLP及局部模型,RBF综述

今天我们要谈的多层感知器其实是一种人工神经网络结构，属于非参数估计，可以用于解决分类和回归问题。我们先来了解下神经网络的背景，然后再来介绍下感知器。神经网络感知器多层感知器神经网络的应用局部模型一、神经网络人工神经网络，顾名思义起源于模拟人脑，其目的是理解人脑功能，认知科学家和神经学家共同构建了神经网络模型，并开展了模拟研究。这项技术与工程结合之后，可以帮助我们

2015-12-22 13:44:14 26387

原创系统学习机器学习之线性判别式（一）

基础的线性判别式，这里不做说明。主要是逻辑斯蒂判别式的说明和梯度下降迭代求解算法。1.逻辑斯蒂方程（Logistic Equation）逻辑斯蒂方程的推导　　当一种新产品刚面世时，厂家和商家总是采取各种措施促进销售。他们都希望对这种产品的推销速度做到心中有数，这样厂家便于组织生产，商家便于安排进货。怎样建立数学模型描述新产品推销速度呢？　　首先要考虑社会的需求量．社会对产品的需

2015-12-19 11:19:18 7045

原创系统学习机器学习之决策树

决策树是一种实现分治策略的层次数据结构，它是一种有效的非参数学习方法，可以用于分类和回归。本节我们来简单介绍决策树的相关知识。什么是决策树单变量树单变量分类树剪枝由决策树提取规则一、什么是决策树决策树（decision tree）是一种用于监督学习的层次模型，通过这种特殊的层次模型，局部区域可以通过少数几步递归分裂确定。决策树由一些内部决策节点和终端树叶组

2015-12-18 13:22:40 10904 2

原创系统学习机器学习之非参数方法

前面的章节中，我们介绍了参数和半参数方法，这两种方法在实际训练前都需要对数据遵从的模型进行一个假定，这个假定可以是一个已知的概率分布或混合分布。参数方法的优点是把估计概率密度、判别式或回归函数问题归结为估计少量参数值，缺点则是模型假定并非总成立，当不成立时就会出现很大的误差。这时我们就需要使用非参数方法，其中我们只需要假定一个事实：即相似的输入具有相似的输出。因为我们一般都认为世界的变化时平稳

2015-12-18 13:21:35 8052

原创系统学习机器学习之半参数方法（一）--基于距离

在参数方法中，我们假设样本来自于一个已知的分布，因此我们的主要工作就是估计有限的参数；而对于另外一些问题，我们不能确定样本遵从的分布假设，这时我们可以退一步，采用混合分布估计输入样本(也就是半参数方法)；如果这样也不行，那么我们就要使用非参数的方法。今天我们来初步了解下聚类学习。主要的要点如下：混合密度 K-均值聚类聚类后的监督学习层次聚类一、混合密度之所以要提出混合分布，主...

2015-12-18 11:07:45 8650

这里，我们讨论特征选择和特征提取，前者选取重要的特征子集，后者由原始输入形成较少的新特征，理想情况下，无论是分类还是回归，我们不应该将特征选择或特征提取作为一个单独的进程，分类或者回归方法应该能够利用任何必要的特征，而丢弃不相关的特征。但是，考虑到算法存储量和时间的复杂度，或者输入不必要的特征等原因，还是需要降维。较简单的模型在小数据上更为鲁棒，有小方差，模型的变化更依赖于样本的特殊性，包括噪声，...

2015-12-18 09:24:53 20722 3

原创系统学习机器学习之参数方法（一）

最大似然估计法的基本思想　　最大似然估计法的思想很简单：在已经得到试验结果的情况下，我们应该寻找使这个结果出现的可能性最大的那个作为真的估计。　　我们分两种情进行分析：　　1．离散型总体　　　设为离散型随机变量，其概率分布的形式为，则样本的概率分布为，在固定时，上式表示取值的概率；当固定时，它是的函数，我们把它记

2015-12-15 09:32:17 8032

原创系统学习机器学习之监督学习

监督学习是指：利用一组已知类别的样本调整分类器的参数，使其达到所要求性能的过程，也称为监督训练或有教师学习。监督学习是从标记的训练数据来推断一个功能的机器学习任务。训练数据包括一套训练示例。在监督学习中，每个实例都是由一个输入对象（通常为矢量）和一个期望的输出值（也称为监督信号）组成。监督学习算法是分析该训练数据，并产生一个推断的功能，其可以用于映射出新的实例。一个最佳的方案将允许该算法来正确地决

2015-12-07 17:46:17 7977

原创系统学习机器学习之系统认识

机器学习(MachineLearning, ML)是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。它是人工智能的核心，是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域，它主要使用归纳、综合而不是演绎。研究意义学习是人类具有的一种重要智能行为，

2015-12-07 16:31:35 10265

转载常用的图像特征

原文：http://blog.sina.com.cn/s/blog_7241dd0f0100p0ox.html 常用的图像特征有颜色特征、纹理特征、形状特征、空间关系特征。一颜色特征（一）特点：颜色特征是一种全局特征,描述了图像或图像区域所对应的景物的表面性质。一般颜色特征是基于像素点的特征，此时所有属于图像或图像区域的像素都有各自的贡献。由于颜色对图像或图像区域的方向、大小等变化

2015-12-01 15:19:05 8235 3

工作笔记