Machine Learning
Arrow
在技术上具有Arrow一样的钉子精神
展开
-
深入理解拉格朗日乘子法(Lagrange Multiplier) 和KKT条件
http://blog.csdn.net/xianlingmao/article/details/7919597http://www.the-idea-shop.com/article/215/understanding-why-the-method-of-lagrange-multipliers-workshttp://ocw.mit.edu/courses/mechanic转载 2016-01-29 11:53:18 · 1569 阅读 · 0 评论 -
Python的基本知识及sorted
1. 简介 sorted的派排序功能真强大,从前一直使用C++、Java以为其功能很强大了,但与Python一比,真的要差一些。2. 函数定义 sorted(iterable, cmp=None, key=None, reverse=False) 把iterable中的items进行排序之后,返回一个新的列表,原来的iterable没有任何改变原创 2016-04-20 13:52:21 · 13719 阅读 · 2 评论 -
TensorFlow学习总结
1. TensorFlow(TF)资源 官方网站:http://tensorflow.org/ 官方GitHub仓库:https://github.com/tensorflow/tensorflow 中文版GitHub仓库:https://github.com/jikexueyuanwiki/tensorflow-zh2. 基本概念原创 2016-05-16 17:34:24 · 1335 阅读 · 0 评论 -
方向导数与梯度
1. 基本概念 方向导数:是一个数;反映的是f(x,y)在P0点沿方向v的变化率。 偏导数:是多个数(每元有一个);是指多元函数沿坐标轴方向的方向导数,因此二元函数就有两个偏导数。 偏导函数:是一个函数;是一个关于点的偏导数的函数。 梯度:是一个向量。 2. 方向导数 反映的是f(x,y)在P0点沿方向v的变化率。 例子如下原创 2016-05-06 16:34:36 · 84238 阅读 · 9 评论 -
计算机视觉(Computer Vision)基本概念
1. 图像分割 从图像中将某个特定区域与其他部分进行分离并提取出来的处理就是图像分割。因为图像分割处理实际上就是区分图像中的“前景目标”和“背景”,所以通常又称之为图像的二值化处理。图像分割在图像分析、图像识别、图像检测等方面占有非常重要的低位。 在图像分割的处理中,其实可以将图像视作是由像素组成的有序集合,而图像分割就是将此集合按照某种规则划分出若干子集的过程。在图像分割原创 2016-05-17 10:31:52 · 8116 阅读 · 0 评论 -
Hand Posture Recognition
1. 简介 手势识别相对来说可以简单也可以很复杂,这取决与要识别的手势。有三种基本的方法可以用来识别手势:基于算法,基于神经网络和基于手势样本库。每一种方法都有其优缺点。开发者具体采用那种方法取决与待识别的手势、项目需求,开发时间以及开发水平。基于算法的手势识别相对简单容易实现,基于神经网络和手势样本库则有些复杂。1.1 基于算法的手势识别 算法是解决软件开发中原创 2016-06-29 13:50:05 · 1122 阅读 · 0 评论 -
计算机视觉及深度学习
1. 简介 人识别物体是根据物体的特征来进行识别、分类的。所以,计算机要识别所看到的物体,必须事先学习物体的特征。 特征学习:是计算机视觉的核心。 人工设计的特征有:LBP、HAAR、HOG、SIFT等。 深度学习:可从给予的样本中自动学习特征。1.1 人脑视觉机理 1)人的视觉系统的信息处理是分级的 2)高层的特征是低层特征原创 2016-06-28 10:21:33 · 1779 阅读 · 0 评论 -
findContours异常问题(opencv3.1+vs2013)
1. VS2013环境配置1.1 配置opencv3.1环境 1)配置包含目录和库目录 2)配置opencv依赖库 1.2 opencv3.1运行模式配置 配置运行库,如果配置为/MT或/MD都能正常工作;如果配置为/MTd或MDd则会有异常。 MT:MultiThread(static li原创 2016-05-30 15:10:23 · 4738 阅读 · 1 评论 -
BP+SGD+激活函数+代价函数+基本问题处理思路
1. Sigmoid激活函数和交叉商代价函数2. Softmax激活函数和对数似然成本函数3. tanh激活函数原创 2016-05-13 16:49:16 · 8629 阅读 · 1 评论 -
Discriminative, Generative and Imitative Learning
1. Generative Model(生成模型) 生成模型学习联合概率分布 p(x,y)。 可通过Baye规则转换为p(y|x),然后进行分类。p(x,y)也可用于其它目的,如可用p(x,y)产生可能的(x,y)对。2. Discriminative Model (判别模型) 判别模型学习条件概念分布p(y|x)。又可以称为条件模型 p(y|原创 2016-05-25 13:41:59 · 1337 阅读 · 0 评论 -
Haar分类器学习总结
1. 简介 Haar分类器 = Haar-like特征 + 积分图(Integral Image)方法 + AdaBoost + 级联 Haar分类器算法的要点如下: 1)使用Haar-like特征做检测 2)使用积分图(Integral Image)对Haar-like特征求值进行加速 3) 使用AdaBoost算法训练区分人脸和非人脸的强原创 2016-06-17 15:24:59 · 7294 阅读 · 0 评论 -
特征降维-PCA(Principal Component Analysis)
1. 简介 PCA:Principal Component Analysis(主成分分析) 在进行图像的特征提取的过程中,提取的特征维数太多经常会导致特征匹配时过于复杂,消耗系统资源,不得不采用特征降维的方法。所谓特征降维,即采用一个低纬度的特征来表示高纬度。特征降维一般有两类方法:特征选择和特征抽取。特征选择即从高纬度的特征中选择其中的一个子集来作为新的特征;而特征抽取是指将原创 2016-07-19 16:39:46 · 1555 阅读 · 0 评论 -
常用神经网络
1. CNN(Convolutional Neural Networks)2. RNN(Recurrent Neural Nets) 3. LSTM(Long Short-Term Memory Units)原创 2016-05-16 14:12:44 · 2457 阅读 · 0 评论 -
Deep Learning Frameworks.
1. DeepLearn Toolbox 此工具箱已经不再维护,建议使用深度学习更好的工具箱:Theano, Torch 或 Tensorflow。2. Theano3. Torch4. Tensorflow原创 2016-04-18 17:58:26 · 1009 阅读 · 0 评论 -
机器学习工具汇总
原作者:Jason Brownlee工具是机器学习的重要组成部分,选择合适的工具与使用最好的算法同等重要。在这篇文章中,你将会见识到各种机器学习工具。了解它们为什么重要,以及可供选择的工具类型。为什么要使用工具机器学习工具使得应用机器学习更快,更简单,更有趣。更快:好工具可以自动化应用机器学习过程中的每一步。这意味着,从提出创意到得到结果的时间大大缩转载 2016-01-29 17:00:22 · 9338 阅读 · 0 评论 -
斯坦福大学机器学习——误差理论(Error Theory)
http://blog.csdn.net/linkin1005/article/details/43018827一、偏差(bias)和方差(variance)在讨论线性回归时,我们用一次线性函数对训练样本进行拟合(如图1所示);然而,我们可以通过二次多项式函数对训练样本进行拟合(如图2所示),函数对样本的拟合程序看上去更“好”;当我们利用五次多项式函数对样本进行拟合(如图3所示转载 2016-01-30 09:48:12 · 4599 阅读 · 0 评论 -
斯坦福大学Andrew Ng教授主讲的《机器学习》公开课观后感
近日,在网易公开课视频网站上看完了《机器学习》课程视频,现做个学后感,也叫观后感吧。 学习时间 从2013年7月26日星期五开始,在网易公开课视频网站上,观看由斯坦福大学Andrew Ng教授主讲的计算机系课程(编号CS229)《机器学习》(网址http://v.163.com/special/opencourse/machinelearning.html)(注:最早是在新浪公开课上转载 2016-01-14 15:40:16 · 2193 阅读 · 1 评论 -
Machine Learning
1. 基本概念1.1 机器学习(Machine Learning) 就是把无序的数据转换成有用的信息。1.2 监督学习(Supervised Learning) 基本思想为:训练数据集中的每个样本都有相应的“正确答案”,再根据这些样本做出预测。(如房价预测)1.2.1 分类(Classification) 尝试推测出离散的输出值1.2.2原创 2016-01-13 11:39:14 · 1418 阅读 · 0 评论 -
Matting学习
Matting论文摘记bayesian+matting算法的研究和改进digital learning based matting毕业论文原创 2016-04-07 18:03:03 · 1751 阅读 · 1 评论 -
线性代数常用基本知识 (含向量和矩阵范数<Matrix or vector norm>)
1. 行列式1.1 二阶行列式1.2 三阶行列式原创 2016-04-19 11:07:56 · 19839 阅读 · 3 评论 -
Training Set, Validation Set 和Testing Set之间的差别及关系
1. 各类数据的用途示例 训练数据和验证数据在训练时使用,基本流程如下: for each epoch for each training data instance propagate error through the network adjust the weights calculate the accuracy ov翻译 2016-05-26 09:43:29 · 12589 阅读 · 1 评论 -
Deep Learning简介
1. 简介 深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征,以发现数据的分布式特征表示。 深度学习是机器学习研究中的一个新的领域,其动机在于建立、模拟人脑进行分析学习的神经网络,它模仿人脑的机制来解释数据,例如图像,声音和文本。 同机器学习方法一样,深度机器学习方法也有监督学习与无监督学习之分.不同的学习框架下建立的学习模型很是不同.例如,卷积神经网络(原创 2016-04-18 08:30:48 · 4219 阅读 · 0 评论 -
神经网络和深度学习-学习总结
1. 简介 神经网络和深度学习是由Michael Nielsen所写,其特色是:兼顾理论和实战,是一本供初学者深入理解Deep Learning的好书。2. 使用神经网络识别手写数字2.1 感知器(Perceptrons) 感知器工作原理:接收一系列二进制输入,经过特定的规则计算之后,输出一个简单的二进制。 计算规则:通过引入原创 2016-05-05 14:19:14 · 35950 阅读 · 7 评论 -
粒子群优化算法(PSO)
1. 概念 粒子群优化算法(PSO:Particle swarm optimization) 是一种进化计算技术(evolutionary computation)。 源于对鸟群捕食的行为研究。粒子群优化算法的基本思想:是通过群体中个体之间的协作和信息共享来寻找最优解. PSO的优势:在于简单容易实现并且没有许多参数的调节。目前已被广泛应用于函数优化、神经网络训练、模原创 2016-05-26 15:34:26 · 116484 阅读 · 9 评论 -
SVM学习总结
1. 目标 SVM是一个二类分类器,它的目标是找到一个超平面,使用两类数据离超平面越远越好,从而对新的数据分类更准确,即此分类器更加健壮。 支持向量(Support Vetor):就是离分隔超平面最近的哪些点。 寻找最大间隔:就是寻找最大化支持向量到分隔超平面的距离,在此条件下求出分隔超平面。 数据分类类别: 1)线性可分 2原创 2016-04-27 16:29:44 · 23767 阅读 · 4 评论 -
常用导数+积分公式
1. 导数基本公式2. 层数的四则运算法则3. 复合函数求导法则原创 2016-04-19 10:18:30 · 54572 阅读 · 0 评论