夏娃の时间

转载 如果看了这篇文章你还不懂傅里叶变换，那就过来掐死我吧

我保证这篇文章和你以前看过的所有文章都不同，这是 2012 年还在果壳的时候写的，但是当时没有来得及写完就出国了……于是拖了两年，嗯，我是拖延症患者……这篇文章的核心思想就是：要让读者在不看任何数学公式的情况下理解傅里叶分析。傅里叶分析不仅仅是一个数学工具，更是一种可以彻底颠覆一个人以前世界观的思维模式。但不幸的是，傅里叶分析的公式看起来太复杂了，所以很多大一新生上来就懵圈

转载 论文笔记：A Model of Saliency-Based Visual Attention for Rapid Scene Analysis

论文笔记：A Model of Saliency-Based Visual Attention for Rapid Scene Analysis论文信息题目：A Model of Saliency-Based Visual Attention for Rapid Scene Analysis作者：Laurent Itti, Christof Koch, and Erns

转载 关于文献阅读和寻找新的科研题目

欢迎转载。本文将随时根据新的经验教训进行更新，因此转载时请附带原始链接: http://mmcheng.net/paperreading/ ‎自从2007年一月去我即将读研的清华大学计算机图形学组做本科毕业设计开始，我就陷入了一个困扰我许久的问题之中：如何阅读文献，如何寻找科研题目？之后长达三年的时间，我一直被这个问题深深困扰，直至2009年底首次以第二作者发表论文（Sketch2Phot

转载 为什么样本方差（sample variance）的分母是 n-1？

转载 奇异值分解（SVD）

PS：一直以来对SVD分解似懂非懂，此文为译文，原文以细致的分析+大量的可视化图形演示了SVD的几何意义。能在有限的篇幅把 这个问题讲解的如此清晰，实属不易。原文举了一个简单的图像处理问题，简单形象，真心希望路过的各路朋友能从不同的角度阐述下自己对SVD实际意义的理 解，比如 个性化推荐中应用了SVD，文本以及Web挖掘的时候也经常会用到SVD。原文：We recommend a si

转载 准确率与召回率

在信息检索、分类体系中，有一系列的指标，搞清楚这些指标对于评价检索和分类性能非常重要，因此最近根据网友的博客做了一个汇总。准确率、召回率、F1信息检索、分类、识别、翻译等领域两个最基本指标是召回率(Recall Rate)和准确率(Precision Rate)，召回率也叫查全率，准确率也叫查准率，概念公式:             召回率(Recall)      =

转载 TF-IDF

简介TF-IDF[1]（term frequency–inverse document frequency）是一种用于资讯检索与资讯探勘的常用加权技术。TF-IDF是一种统计方法，用以评估一字词对于一个文件集或一个语料库中的其中一份文件的重要程度。字词的重要性随着它在文件中出现的次数成正比增加，但同时会随着它在语料库中出现的频率成反比下降。TF-IDF加权的各种形式常被搜索引擎应用，作为文

转载 相似性度量--Pearson相关系数

Pearson 相关系数Pearson 相关系数介绍pearson是一个介于-1和1之间的值，用来描述两组线性的数据一同变化移动的趋势。当两个变量的线性关系增强时，相关系数趋于1或-1；当一个变量增大，另一个变量也增大时，表明它们之间是正相关的，相关系数大于0；如果一个变量增大，另一个变量却减小，表明它们之间是负相关的，相关系数小于0；如果相关系数等于0，表明它们之间不存在线性相关

原创 人工神经网络的设计与实现（三） BP神经网络

多层感知机模型之前说单层的感知机模型不能处理线性不可分问题，多层感知机却可以成功胜任。下面再从异或入手解决问题。图片来源（自己动手写神经网络）。如上图两层的感知机就能完成对XOR问题的正确划分。第一层的上侧是函数：2*p1+2*p2-1，下侧是函数-2*p1-2*p2+3，第二层是函数And就是与操作。可以得出它们对问题的划分如下：        即多层感知机把

原创 人工神经网络的设计与实现（二） 感知机

感知机感知机（perceptron）是ANN的基本单元，至少我现在是这么觉得的，如果我学到后来发现不是，会来更正的。感知机（如下图）就是伸出几只小触手去感知这个世界～感知～感知～然后触手获取数据的加权和通过函数 f，得到的值即为该感知机的输出。就是如果用一个数表示这个世界的话，感知机唰唰唰就得出结论了。加权和好算，那 f 怎么办？选什么样的函数好呢？其实可以乱七八糟随便选，只要你能

原创 人工神经网络的设计与实现（一） 原理

人工智能分为三大学派，符号主义、联接主义、行为主义。我的理解是符号主义就是做出专家系统的玩意，行为主义就是研究人做出决策的出发点是什么（老师上课一直在说博弈论也证明了我的观点），而联接主义就是认为人之所以有只能，完全是因为神经元的联接，神经元之间的信号传递决定的。人工神经网络（ANN，Artificial Neural Network）就是联接主义的最有代表性的成果。ANN的基本思路就是模仿人

转载 关于卷积的一个血腥的讲解

比如说你的老板命令你干活，你却到楼下打台球去了，后来被老板发现，他非常气愤，扇了你一巴掌（注意，这就是输入信号，脉冲），于是你的脸上会渐渐地（贱贱地）鼓起来一个包，你的脸就是一个系统，而鼓起来的包就是你的脸对巴掌的响应，好，这样就和信号系统建立起来意义对应的联系。下面还需要一些假设来保证论证的严谨：假定你的脸是线性时不变系统，也就是说，无论什么时候老板打你一巴掌，打在你脸的同一位置（这似乎要求你的

转载 支持向量机（四）SMO算法

11 SMO优化算法（Sequential minimal optimization）传送门：http://www.cnblogs.com/jerrylead/archive/2011/03/18/1988419.htmlSMO算法由Microsoft Research的John C. Platt在1998年提出，并成为最快的二次规划优化算法，特别针对线性SVM和数据稀疏时性能更优

转载 SVM（三），支持向量机，线性不可分和核函数

3.1 线性不可以分传送门：http://www.cnblogs.com/liqizhou/archive/2012/05/11/2495788.html我们之前讨论的情况都是建立在样例线性可分的假设上，当样例线性不可分时，我们可以尝试使用核函数来将特征映射到高维，这样很可能就可分了。然而，映射后我们也不能100%保证可分。那怎么办呢，我们需要将模型进行调整，以保证在不可分的情况下，也

转载 深入理解拉格朗日乘子法（Lagrange Multiplier) 和KKT条件

传送门：http://blog.csdn.net/xianlingmao/article/details/7919597在求取有约束条件的优化问题时，拉格朗日乘子法（Lagrange Multiplier) 和KKT条件是非常重要的两个求取方法，对于等式约束的优化问题，可以应用拉格朗日乘子法去求取最优值；如果含有不等式约束，可以应用KKT条件去求取。当然，这两个方法求得的结果只是必要条件，

转载 SVM(二）拉格朗日对偶问题

2 拉格朗日对偶（Lagrange duality）传送门：http://www.cnblogs.com/liqizhou/archive/2012/05/11/2495689.html     先抛开上面的二次规划问题，先来看看存在等式约束的极值问题求法，比如下面的最优化问题：            目标函数是f(w)，下面是等式约束。通常解法是引入拉格朗日算子，

转载 SVM(一) 问题的提出

SVM(一) 问题的提出这是我看到最好的说SVM的了，转过来，感觉内容不少是翻译国外教材的。转自：http://www.cnblogs.com/liqizhou/archive/2012/05/11/2495537.htmlSVM是支持向量机从诞生至今才10多年，发展史虽短，但其理论研究和算法实现方面却都取得了突破性进展，有力地推动机器学习理论和技术的发展。这一切与支持向量

转载 偏置-方差分解(Bias-Variance Decomposition)

本文地址为：http://www.cnblogs.com/kemaswill/，作者联系方式为kemaswill@163.com,转载请注明出处。  机器学习的目标是学得一个泛化能力比较好的模型。所谓泛化能力，是指根据训练数据训练出来的模型在新的数据上的性能。这就牵扯到机器学习中两个非常重要的概念：欠拟合和过拟合。如果一个模型在训练数据上表现非常好，但是在新数据集上性能很差，就是过拟合，反

转载 机器学习中的范数规则化之（一）L0、L1与L2范数

机器学习中的范数规则化之（一）L0、L1与L2范数zouxy09@qq.comhttp://blog.csdn.net/zouxy09        今天我们聊聊机器学习中出现的非常频繁的问题：过拟合与规则化。我们先简单的来理解下常用的L0、L1、L2和核范数规则化。最后聊下规则化项参数的选择问题。这里因为篇幅比较庞大，为了不吓到大家，我将这个五个部分分成两篇博

转载 关于ERM和SRM：简单的美才是真的美

本文转载自crycalblue《关于ERM和SRM：简单的美才是真的美》什么是统计学习？看起来高深莫测，其实就是在这干这么一件事情：就是给你看一堆东西，你想办法给一个解释，然后拿着这个解释去判断其它的东西。不过，和物理学不一样，在那里，解释是人想出来的，在统计学习里，解释是机器构造出来的。在许多问题里面，对象是非常复杂的，要用成百上千，甚至更多的数字去表示一个东西。当统计学家们遇到

转载 判别式模型与生成式模型

判别式模型与生成式模型的区别产生式模型(Generative Model)与判别式模型(Discrimitive Model)是分类器常遇到的概念，它们的区别在于：对于输入x，类别标签y：产生式模型估计它们的联合概率分布P(x,y)判别式模型估计条件概率分布P(y|x)产生式模型可以根据贝叶斯公式得到判别式模型，但反过来不行。Andrew Ng在NIPS20

转载 [zz]澄清P问题、NP问题、NPC问题的概念

http://blog.csdn.net/dongwq/article/details/4305435

转载 Python 双引号 单引号 多引号区别

先说1双引号与3个双引号的区别，双引号所表示的字符串通常要写成一行如：s1 = "hello,world"如果要写成多行，那么就要使用\ (“连行符”)吧，如s2 = "hello,\world"s2与s1是一样的。如果你用3个双引号的话，就可以直接写了，如下：s3 = """hello,world,hahaha."""，那么

转载 python代码缩进

习惯了java，c++之类的宽容，初学python，被它摆了道下马威，写if else，竟然必须要我正确用缩进格式，原来在python里不能用括号来表示语句块，也不能用开始/结束标志符来表示，而是靠缩进来表示，好吧，我以后多注意 空白在Python中是重要的。事实上行首的空白是重要的。它称为缩进。在逻辑行首的空白（空格和制表符）用来决定逻辑行的缩进层次，从而用来决定语句的分组。这意味着