2015年06月_Matrix_11

12月 11月 10月 09月 08月 07月 06月 05月 04月 03月 02月 01月

翻译 Convolutional Neural Networks for Visual Recognition 6

Learning前面，我们介绍了神经网络的构成，数据的预处理，权值的初始化等等。这一讲，我们将要介绍神经网络参数学习的过程。Gradient Checks梯度的运算，在理论上是简单的，但是在实际的应用中，却非常容易出错，梯度的运算常见的有如下两种形式：形式一： df(x)dx=f(x+h)−f(x)h\frac{df(x)}{dx}=\frac{f(x+h)-f(x)}{h} hh是一个很小

2015-06-28 11:48:15 1849

翻译 Convolutional Neural Networks for Visual Recognition 5

Setting up the data and the model前面我们介绍了一个神经元的模型，通过一个激励函数将高维的输入域权值的点积转化为一个单一的输出，而神经网络就是将神经元排列到每一层，形成一个网络结构，这种结构与我们之前介绍的线性模型不太一样，因此score function也需要重新定义，神经网络实现了一系列的线性映射与非线性映射，这一讲，我们主要介绍神经网络的数据预处理以及score

2015-06-25 17:14:21 1967

翻译 Convolutional Neural Networks for Visual Recognition 4

Modeling one neuron下面我们开始介绍神经网络，我们先从最简单的一个神经元的情况开始，一个简单的神经元包括输入，激励函数以及输出。如下图所示：一个神经元类似一个线性分类器，如果激励函数是sigmoid 函数(σ(x)=1/(1+e−x))(\sigma (x)=1/(1+e^{-x}))，那么σ(∑iwixi+b)\sigma(\sum_{i}w_{i}x_{i}+b)相当于是求该输

2015-06-22 14:37:36 1850

翻译 Convolutional Neural Networks for Visual Recognition 3

Gradient Computing前面我们介绍过分类器模型一般包含两大部分，一部分是score function，将输入的原始数据映射到每一类的score，另外一个重要组成部分是loss function，计算预测值与实际值之间的误差，具体地，给定一个线性分类函数：f(xi;W)=Wxif(x_{i};W)=Wx_{i}，我们定义如下的loss function： L=1N∑i∑j≠yi[m

2015-06-20 15:07:15 1766 1

翻译 Convolutional Neural Networks for Visual Recognition 2

Linear Classification在上一讲里，我们介绍了图像分类问题以及一个简单的分类模型K-NN模型，我们已经知道K-NN的模型有几个严重的缺陷，第一就是要保存训练集里的所有样本，这个比较消耗存储空间；第二就是要遍历所有的训练样本，这种逐一比较的方式比较耗时而低效。现在，我们要介绍一种更加强大的图像分类模型，这个模型会很自然地引申出神经网络和Convolutional Neural Net

2015-06-17 20:38:45 1796

翻译 Convolutional Neural Networks for Visual Recognition 1

Introduction这是斯坦福计算机视觉大牛李菲菲最新开设的一门关于deep learning在计算机视觉领域的相关应用的课程。这个课程重点介绍了deep learning里的一种比较流行的模型：Convolutional Neural Networks，简称CNN，主要利用CNN来做visual recognition，或者说是image classification，object recog

2015-06-15 17:20:38 2379

原创 OpenCV——饱和度调整

参考： GDI+ 在Delphi程序的应用 -- 图像饱和度调整

2015-06-15 16:34:53 13526

翻译机器学习 Support Vector Machines 3

Optimal margin classifiers前面我们讲过，对如下的原始的优化问题我们希望找到一个优化的边界分类器。 minγ,w,bs.t.12∥w∥2y(i)(wTx(i)+b)⩾1,i=1,...m\begin{equation*}\begin{split}\text{min}_{\gamma,w,b} & \quad \frac{1}{2}\left \| w \righ

2015-06-12 11:52:09 1351

翻译机器学习 Support Vector Machines 2

优化的边界分类器上一讲里我们介绍了函数边界和几何边界的概念，给定一组训练样本，如果能够找到一条决策边界，能够使得几何边界尽可能地大，这将使分类器可以很可靠地预测训练样本，特别地，这可以让分类器用一个“间隔”将正负样本分开。现在，我们假设给定的一组训练样本是线性可分的，即有可能找到这样一条分界面，将正负样本分开。如何找到这样一个分界面可以使得几何边界最大？我们将这个优化问题用如下的表达式给出

2015-06-05 14:09:15 1355

翻译机器学习 Support Vector Machines 1

引言这一讲及接下来的几讲，我们要介绍supervised learning 算法中最好的算法之一：Support Vector Machines (SVM,支持向量机)。为了介绍支持向量机，我们先讨论“边界”的概念，接下来，我们将讨论优化的边界分类器，并将引出拉格朗日数乘法。我们还会给出 kernel function 的概念，利用 kernel function，可以有效地处理高维(甚至无限

2015-06-05 14:08:29 1742