2015年07月_lf14

12月 11月 10月 09月 08月 07月 06月 05月 04月 03月 02月

转载先验概率、似然函数、后验概率、贝叶斯公式

10.8.1 先验概率、似然函数、后验概率、贝叶斯公式联合概率的乘法公式：（如果随机变量是独立的，则）由乘法公式可得条件概率公式：，全概率公式：，其中（，则可轻易推导出上式）贝叶斯公式：又名后验概率公式、逆概率公式：后验概率＝似然函数×先验概率/证据因子。解释如下，假设我们根据“手臂是否很长”这个随机变量（取值为“手臂很长”或“手臂不长”）的观测样本数据来分析远处一

2015-07-27 14:59:16 876 1

转载 Softmax回归

Softmax回归Contents [hide]1 简介2 代价函数3 Softmax回归模型参数化的特点4 权重衰减5 Softmax回归与Logistic 回归的关系6 Softmax 回归 vs. k 个二元分类器7 中英文对照8 中文译者简介在本节中，我们介绍Softmax回归模型，该模型是logist

2015-07-24 20:59:35 254

转载神经网络

概述以监督学习为例，假设我们有训练样本集，那么神经网络算法能够提供一种复杂且非线性的假设模型，它具有参数，可以以此参数来拟合我们的数据。为了描述神经网络，我们先从最简单的神经网络讲起，这个神经网络仅由一个“神经元”构成，以下即是这个“神经元”的图示：这个“神经元”是一个以及截距为输入值的运算单元，其输出为，其中函数被称为“激活

2015-07-18 21:40:59 258

原创拟人退火算法解3SAT

拟人退火算法解3SAT一、问题描述3-SAT是SAT问题的一个特殊例子，当所有子句都刚好包含三个变量时，此类问题叫3-SAT问题。该问题相对于SAT问题，看似复杂度降低，但仍为NPC问题。由于其苛刻的条件(子句由三个变量组成)，使其更容易归约到其他问题，因此比起SAT问题，3-SAT在NPC问题的证明中用得更加广泛。二、算法模拟退火算法:模拟退火算法来源于固体退火原理，将固体加

2015-07-12 15:18:13 1095

原创最小二乘法及带约束条件的最小二乘法(空间约束和L2约束)

clc;clear;n = 50; N = 1000;x = linspace(-3,3,n)'; X = linspace(-3,3,N)';pix = pi*x;y = sin(pix)./(pix) + 0.1*x + 0.05*randn(n,1);%%%3.2% p(:,1) = ones(n,1);P(:,1)= ones(N,1);% for j= 1:15%

2015-07-06 21:20:44 9346 1

转载 LIBSVM与LIBLINEAR（二）

LIBSVM与LIBLINEAR（二）模型与优化LIBSVM和LIBLINEAR都提供了多种不同的模型供使用者选择，不同的模型有各自适用的场景。下面分别介绍LIBSVM和LIBLINEAR所提供的各种模型。LIBSVM下面是LIBSVM帮助内容提供的介绍，给出了LIBSVM支持的5种模型。其中模型0和1对应的都是SVM的分类模型，2对应的是one-cla

2015-07-02 14:31:09 912

原创 ONE-CLASS SVM FOR LEARNING IN IMAGE RETRIEVAL

One Class SVM 是指你的training data 只有一类positive （或者negative）的data，而没有另外的一类。在这时，你需要learn的实际上你training data 的boundary。而这时不能使用 maximum margin 了，因为你没有两类的data。所以呢，在这边文章中，“Estimating the support of a high-

2015-07-02 14:16:51 736

转载 SVM入门（七）为何需要核函数

生存？还是毁灭？——哈姆雷特可分？还是不可分？——支持向量机之前一直在讨论的线性分类器,器如其名（汗，这是什么说法啊），只能对线性可分的样本做处理。如果提供的样本线性不可分，结果很简单，线性分类器的求解程序会无限循环，永远也解不出来。这必然使得它的适用范围大大缩小，而它的很多优点我们实在不原意放弃，怎么办呢？是否有某种方法，让线性不可分的数据变得线性可分呢？有！其思想说来也

2015-07-02 11:58:41 257