2015年05月_hjimce

原创机器学习（十二）朴素贝叶斯分类

一、基础知识复习1、相互独立事件：假设A、B相互独立，那么有：P(AB)=P(A)*P(B)2、表示事件B已经发生的前提下，事件A发生的概率，叫做事件B发生下事件A的条件概率。贝叶斯准则告诉我们，如果已知P(A|B),要求P(B|A)，那么我们可以使用如下计算公式：

2015-05-27 22:31:26 5355 1

原创图像处理（十四）图像分割(4)grab cut的图割实现-Siggraph 2004

Grab cut算法是2004年才有的算法，自从这个算法出来，在交互是图像分割领域影响极其深刻，目前文献《“GrabCut” — Interactive Foreground Extraction using Iterated Graph Cuts》的引用率真不是一般的高，于是图论分割的算法就有很多新算法出现了，还有什么Normarlized Cut 、One cut，但是大体的思路大同小异。

2015-05-23 10:09:52 6291 2

原创图像处理（十三）保刚性图像变形算法-Siggraph 2004

图像变形可以说是很多图像、动画领域的一个非常常见的功能，就说ps、天天P图、美图秀秀、可牛等这些每个软件，有好多个功能都要用到图像变形，比如瘦脸眼睛放大、图像方向校正、图像全景等，在我的另外一篇博文全景矩形还原，就要用到图像变形算法。可以说ps中的一些图像扭曲都是通过变形方法实现的，比如这篇paper:《As-Rigid-As-Possible Image Registration for H

2015-05-16 10:17:01 20192 13

原创基础知识（四）Dijkstra算法

写这篇博文是因为我怕一两年内，没碰到这个算法，到时候又把它忘了。因为这个算法是图论中，一个非常重要的算法，经常要用到，为了某一天重新拾起这个算法的时候，能够把下面的代码复制一下，然后改装一下再次快速熟练应用它。这个算法在图形学中的三角网格曲面中，可以说是一个基础算法，目前为止，我至少用过十次。在图像中，我也遇到过好几次，比如我写的另一篇博文《基于测地距离的图像分割算法》，这个算法就要与之相结合。

2015-05-15 22:48:54 2621

原创机器学习（十一）谱聚类算法

1、采用knn构造样本相似度矩阵(如果不采用knn，那么构造的是全连接图，不是稀疏矩阵，如果样本多的话，求解起来速度就会很慢了)2、构造归一化的拉普拉斯矩阵(归一化的拉普拉斯矩阵的对角线元素为1，每一行所有元素和为0)3、求解L矩阵的前k个最小特征值对应的特征向量(k为聚类的个数)把这些向量列成矩阵，进行k-means聚类，得到的聚类结果就是谱聚类的结果

2015-05-15 21:27:22 4729

原创机器学习（十）Mean Shift 聚类算法

一、mean shift 算法理论Mean shift 算法是基于核密度估计的爬山算法，可用于聚类、图像分割、跟踪等，因为最近搞一个项目，涉及到这个算法的图像聚类实现，因此这里做下笔记。(1)均值漂移的基本形式给定d维空间的n个数据点集X，那么对于空间中的任意点x的mean shift向量基本形式可以表示为：这个向量就是漂移向量，其中Sk表示的是数据集的点到x的距离小于球半径h

2015-05-14 11:30:43 78861 24

原创图像处理（十二）图像融合(1)Seamless cloning泊松克隆-Siggraph 2004

本篇博文主要讲解2004年Siggraph的经典paper：《Poisson Image Editing》，在图像融合领域，融合效果最牛逼的paper。讲这个算法，我没打算讲太多理论的公式，理论的东西，对于大部分数学比较差的人来说看了就头晕。什么散度、拉普拉斯算子、梯度场、泊松方程、泊松方程第一类边界条件(Dirichlet boundary)、泊松方程第二类边界条件(Neumann boundary)，如果把这些公式贴上来，估计很多人还没看到算法是怎么实现的，就已经看不下去了。因此我将直接给出离散形式实现

2015-05-14 09:41:37 56642 47

原创图像处理（十一）图像分割(3)泛函能量LevelSet、snake分割

水平集(level set)的基本思想是将界面看成高一维空间中某一函数ψ（称为水平集函数）的零水平集，同时界面的演化也扩充到高一维的空间中。我们将水平集函数按照它所满足的发展方程进行演化或迭代，由于水平集函数不断进行演化，所以对应的零水平集也在不断变化，当水平集演化趋于平稳时，演化停止，得到界面形状。

2015-05-08 22:27:18 18394 5

原创基础知识（三）makefile文件编写初级篇

linux下进行c++开发，需要熟悉相关编译器的编译、链接命令。这边主要以实例讲解，如何在linux中，进行c++程序简单的编译链接运行。

2015-05-07 22:09:56 3690

原创图像处理（九）人物肖像风格转换-Siggraph 2014

对于人物头像风格转换，2014年siggraph上面出了一篇比较不错的paper：《Style Transfer for Headshot Portraits》，这篇文献涉及到的算法非常多，可以说，如果要把这篇paper的代码从头到尾写过一遍，相当复杂。即使是paper作者本人，也只是通过代码拼凑实现的。因为这篇文章涉及到十几篇paper的算法。我这边主要讲解这篇文献的总流程，如果你打算把这篇文献完全看懂，那么对于图像融合、抠图、sift、图像变形等这些基础算法都要非常熟悉，因为这篇paper就是通过这些

2015-05-06 12:25:26 11518 1

原创图像处理（十）基于特征线的图像变形-Siggraph 1992

这里要跟大家分享的paper为基于特征线的图像 morphing，对应的英文文献为《Feature-Based Image Metamorphosis》，是1992年SIGGRAPH 上的一篇paper，比较老的一篇paper，然而这篇paper引用率非常高，用于图像变形效果还是挺不错的，这个算法一般用于图像的morphing。因为这篇paper算法原理简单，易于实现，所以不用怕学习这个算法需要多长的时间。

2015-05-06 09:27:53 9008 2

原创机器学习（九）初识BP神经网络

我学机器学习的算法不是系统学习的，只有项目要用到的时候，才马上学，BP神经网络可以说是我比较早学习的一个机器学习算法，当时连回归的梯度下降法都还没学，所以整个过程学起来迷迷糊糊的，我的学习思路一般是先大体把算法原理看一下，然后网上下一份代码，慢慢解读，解读完后又回去把理论深入理解一下，最后自己再写过一遍的代码。因为BP神经网络的求解是用到了梯度下降法，所以建议学习这个算法前，先推导一下回归拟合过程，把逻辑回归先好好搞懂，那么搞这个BP算法就轻轻松松，其实我的理解BP算法就是进化版的逻辑回归。

2015-05-03 10:18:23 8750

原创机器学习（八）Apriori算法学习

学习Apriori算法建议用python，因为python的集合函数功能相当强大，而Apriori涉及到集合的合并等运算。开始学习Apriori算法之前，我们先来搞一个简单的问题，这个问题在Apriori算法中非常重要。问题是这样的：假设现在有三个集合C2(1)={0,1}、C2(2)={0,2}、C2(3)={1,2}，这些集合都是不相等的，因为每个集合中有且只有两个元素，所以这里我们记为C2。现在求把这3集合进行两两组合，使得组合结果包含3个不重复的元素，

2015-05-02 11:13:13 2360

原创机器学习（八）支持向量机svm终结篇

我们回到第1部分的问题求解了：然后我们根据拉格朗日对偶问题转换：1、构建拉格朗日函数：2、对拉格朗日函数求偏导：3、令、可得：(这个公式告诉我们w是x的加权线性组合)(这个公式告诉我们所有的数据点的分类符号与拉格朗日乘子乘积和为0)。4、回待入拉格朗日函数，并整理得：其约束条件为：，及(这个约束条件哪里来的，有点不理解，难道拉格朗日乘子要求大于零

2015-05-01 20:50:06 2559

原创机器学习（七）支持向量机svm中级篇

第二部分 SVM数学基础知识复习这一步涉及到拉格朗日求解问题，感觉真不是一般的难，弄得我好晕，难之一B啊，建议如果想学这个问题是怎么求解的，先去好好学学拉格朗日的对偶问题求解。先复习一下拉格朗日求解约束型最大最小值问题，用“拉格朗日乘数法”求函数f(x,y,z)在条件φ(x,y,z)=0下的极值，步骤如下：1.做拉格朗日函数L=f(x,y,z)+λφ(x,y,z),λ称拉格朗日乘数2.求

2015-05-01 20:45:02 1973

原创机器学习（六）支持向量机svm初级篇

为了理解svm算法，我这边以2位空间的点数据集分类为例，在二维空间中，直线的一般公式为：Ax+By+c=0；然后我们希望通过已有的数据点，求出直线的A,B,C三个参数，这就是SVM算法的目的。(1)这里我们为了方便，我把直线的一般公式写成：写成矩阵形式：简化为：先回忆一下点P(x1,x2)位于直线的上方和下方的计算公式，判断方法如下：如果，则P点位于直线的下方；

2015-05-01 20:42:28 2747

原创深度学习（一）深度学习学习资料

持续更新原文地址：http://blog.csdn.net/hjimce/article/details/45421595作者：hjimce一、学习清单1、综合类(1)收集了各种最新最经典的文献，神经网络的资源列表：https://github.com/robertsdionne/neural-network-papers 里面包含了深度学习领域经典、以及最新最牛逼的算法，如果把这个列表学过一遍...

2015-05-01 20:22:28 32324

原创图像处理（七）导向滤波磨皮

导向滤波磨皮的对应文献为：Guided Image Filtering，这个算法速度极其之快，比其他的保边缘磨皮算法都快，甚至快上好几倍。这个算法最初来自于何明凯的图像去雾算法中，现在已然被应用封装与matlab图像处理函数库中，可见算法堪称经典。看以下算法的伪代码：然后把代码写一写：然后把结果测一测，松松搞定：

2015-05-01 20:05:19 13765 2

原创图像处理（六）递归双边滤波磨皮

递归双边滤波是双边滤波的一种加速算法，加速比非常大，就像高斯模糊快速算法一样，加速起来，速度跟原算法相比，提高了十几倍。双边滤波的加速算法很多，文献都比较老旧，我这边主要讲一下比较新的算法：递归双边滤波，对应的paper为：《Recursive Bilateral Filtering》这个算法比我另外一篇博文将的双指数滤波快一点，两篇文献的基本思想一样：递归公式跟双指数的递归公式基

2015-05-01 19:48:44 8451

原创机器学习（二）逻辑回归

逻辑回归于线性回归的区别：(1)线性回归的函数拟合，用于数值预测，逻辑回归是二分类算法，用于分类(2)线性回归模型：逻辑回归模型：也就是说逻辑回归其实是在线性回归的基础上，加了一个激励函数映射。因为逻辑回归是二分类算法，因此对于训练数据，其只有两种取值1、0，代表两个分类，用于预测分类的时候，输入值大于0.5的，则把它归为1类，否者归为0类。因此对于训练数据需要满足一下概率

2015-05-01 13:30:05 4990

原创机器学习（一）线性回归

线性回归假设对于输入数据X(x1，x2……xn)，输出数据y，对于线性回归我的简单理解就是线性拟合。因为为之前就对拟合这个词比较熟悉，对于最小二乘也是比较熟悉的。对于输入数据X，输出数据y，线性回归的基础公式为：其中x1，x2……xn表示的是数据X的特征，而x0=1是固定的。我们希望根据已经给定的m个数据集data，求解出未知的参数，θ0,、θ1、θ2…。其实求解这个公式最简单

2015-05-01 12:18:04 4846 1

hjimce的专栏