hechenghai

转载 动态规划：从新手到专家

作者：Hawstein出处：http://hawstein.com/posts/dp-novice-to-advanced.html声明：本文采用以下协议进行授权： 自由转载-非商用-非衍生-保持署名|Creative Commons BY-NC-ND 3.0 ，转载请注明作者及出处。前言本文翻译自TopCoder上的一篇文章： Dynamic Programmin

转载 卡方检验文本特征选择

转载地址：http://blog.chinaunix.net/uid-20761674-id-4628888.html关于卡方检验，下面这篇blog介绍的比较详细，仔细思索之后，对一些点做如下说明，个人理解：1. 关于假设“词t与类别c无关”。这个假设应该变更为“词t不是对分类有区分度的特征”，（c是一个类别，除了c之外的所有数据组成另一个类别，类似逻辑回归多分类的方法）。一个

转载 逻辑回归

转载地址：http://blog.csdn.net/pakko/article/details/37878837什么是逻辑回归？Logistic回归与多重线性回归实际上有很多相同之处，最大的区别就在于它们的因变量不同，其他的基本都差不多。正是因为如此，这两种回归可以归于同一个家族，即广义线性模型（generalizedlinear model）。这一家族中的模型

原创 [LeetCode]Substring with Concatenation of All Words

Substring with Concatenation of All WordsMy SubmissionsQuestionTotal Accepted: 42899 Total Submissions: 215720 Difficulty: HardYou are given a string, s, and a list of words, w

转载 KMP字符串模式匹配详解

KMP字符串模式匹配详解来自CSDN     A_B_C_ABC 网友KMP字符串模式匹配通俗点说就是一种在一个字符串中定位另一个串的高效算法。简单匹配算法的时间复杂度为O(m*n);KMP匹配算法。可以证明它的时间复杂度为O(m+n).。一．  简单匹配算法先来看一个简单匹配算法的函数：int Index_BF ( char S [ ], char T [ ], int po

转载 逻辑回归

转载地址：http://blog.csdn.net/pakko/article/details/37878837什么是逻辑回归？Logistic回归与多重线性回归实际上有很多相同之处，最大的区别就在于它们的因变量不同，其他的基本都差不多。正是因为如此，这两种回归可以归于同一个家族，即广义线性模型（generalizedlinear model）。这一家族中的模型

转载 机器学习&数据挖掘笔记_16（常见面试之机器学习算法思想简单梳理）

机器学习&数据挖掘笔记_16（常见面试之机器学习算法思想简单梳理） 　　前言：　　找工作时（IT行业），除了常见的软件开发以外，机器学习岗位也可以当作是一个选择，不少计算机方向的研究生都会接触这个，如果你的研究方向是机器学习/数据挖掘之类，且又对其非常感兴趣的话，可以考虑考虑该岗位，毕竟在机器智能没达到人类水平之前，机器学习可以作为一种重要手段，而随着科技的不断发展，相信这方面的人

转载 [LeetCode]4Sum

4SumMy SubmissionsQuestion Solution Total Accepted: 50999 Total Submissions: 230927 Difficulty: MediumGiven an array S of n integers, are there elements a, b, c, and d in S s

转载 Python 字符串函数的方法

字符串中字符大小写的变换：* S.lower()   #小写* S.upper()   #大写* S.swapcase()   #大小写互换* S.capitalize()   #首字母大写* String.capwords(S)  #这是模块中的方法。它把S用split()函数分开，然后用capitalize()把首字母变成大写，最后用join()合并到一起* S.t

转载 牛顿迭代法求平方根

转载 梯度下降法，最小二乘法求线性回归

转载地址：http://www.cnblogs.com/iamccme/archive/2013/05/15/3080737.html四. 最小二乘法与梯度下降法   最小二乘法跟梯度下降法都是通过求导来求损失函数的最小值，那它们有什么区别呢。   相同　　1.本质相同：两种方法都是在给定已知数据（independent & dependent va

转载 常见面试之机器学习算法思想简单梳理

前言：找工作时（IT行业），除了常见的软件开发以外，机器学习岗位也可以当作是一个选择，不少计算机方向的研究生都会接触这个，如果你的研究方向是机器学习/数据挖掘之类，且又对其非常感兴趣的话，可以考虑考虑该岗位，毕竟在机器智能没达到人类水平之前，机器学习可以作为一种重要手段，而随着科技的不断发展，相信这方面的人才需求也会越来越大。纵观IT行业的招聘岗位，机器学习之类的岗位还是挺少的，国

转载 Spark机器学习库之数据类型——scala版本

1.本地向量        本地向量的基类是 Vector,我们提供了两个实现 DenseVector 和 SparseVector。我们建议通过 Vectors中实现的工厂方法来创建本地向量:（注意:Scala语言默认引入的是 scala.collection.immutable.Vector,为了使用MLlib的Vector,你必须显示引入org.apache.spark.mllib.li

原创 [LeetCode] Longest Common Prefix

Longest Common PrefixMy SubmissionsQuestion Solution Total Accepted: 68487 Total Submissions: 264798 Difficulty: EasyWrite a function to find the longest common prefix string

原创 [LeetCode] Roman to Integer

Roman to IntegerMy SubmissionsQuestion Solution Total Accepted: 56002 Total Submissions: 159037 Difficulty: EasyGiven a roman numeral, convert it to an integer.Input is gua

原创 [LeetCode] Integer to Roman

Integer to RomanMy SubmissionsQuestion Solution Total Accepted: 44525 Total Submissions: 127649 Difficulty: MediumGiven an integer, convert it to a roman numeral.Input is g

转载 文本分类入门(七)相关概念总结

学习方法：使用样例（或称样本，训练集）来合成计算机程序的过程称为学习方法[22]。监督学习：学习过程中使用的样例是由输入/输出对给出时，称为监督学习[22]。最典型的监督学习例子就是文本分类问题，训练集是一些已经明确分好了类别文档组成，文档就是输入，对应的类别就是输出。非监督学习：学习过程中使用的样例不包含输入/输出对，学习的任务是理解数据产生的过程 [22]。典型的非监督学习例子是聚类，

转载 文本分类入门(六)训练Part 3

SVM算法支持向量机(Support Vector Machine)是Cortes和Vapnik于1995年首先提出的，它在解决小样本、非线性及高维模式识别中表现出许多特有的优势，并能够推广应用到函数拟合等其他机器学习问题中[10]。支持向量机方法是建立在统计学习理论的VC 维理论和结构风险最小原理基础上的，根据有限的样本信息在模型的复杂性（即对特定训练样本的学习精度，Accuracy）和学习

转载 文本分类入门(五)训练Part 2

将样本数据成功转化为向量表示之后，计算机才算开始真正意义上的“学习”过程。再重复一次，所谓样本，也叫训练数据，是由人工进行分类处理过的文档集合，计算机认为这些数据的分类是绝对正确的，可以信赖的（但某些方法也有针对训练数据可能有错误而应对的措施）。接下来的一步便是由计算机来观察这些训练数据的特点，来猜测一个可能的分类规则（这个分类规则也可以叫做分类器，在机器学习的理论著作中也叫做一个“假设”，因

转载 文本分类入门(四)训练Part 1

文本分类入门(四)训练Part 1训练，顾名思义，就是training（汗，这解释），简单的说就是让计算机从给定的一堆文档中自己学习分类的规则（如果学不对的话，还要，打屁屁？）。开始训练之前，再多说几句关于VSM这种文档表示模型的话。举个例子，假设说把我正在写的“文本分类入门”系列文章的第二篇抽出来当作一个需要分类的文本，则可以用如下的向量来表示这个文本，以便于计算机理解和处理。

转载 文本分类入门(三)统计学习方法

文本分类入门(三)统计学习方法前文说到使用统计学习方法进行文本分类就是让计算机自己来观察由人提供的训练文档集，自己总结出用于判别文档类别的规则和依据。理想的结果当然是让计算机在理解文章内容的基础上进行这样的分类，然而遗憾的是，我们所说的“理解”往往指的是文章的语义甚至是语用信息，这一类信息极其复杂，抽象，而且存在上下文相关性，对这类信息如何在计算机中表示都是尚未解决的问题（往大里说，这是一个“

转载 文本分类入门(二)文本分类的方法

文本分类入门(二)文本分类的方法文本分类问题与其它分类问题没有本质上的区别，其方法可以归结为根据待分类数据的某些特征来进行匹配，当然完全的匹配是不太可能的，因此必须（根据某种评价标准）选择最优的匹配结果，从而完成分类。因此核心的问题便转化为用哪些特征表示一个文本才能保证有效和快速的分类（注意这两方面的需求往往是互相矛盾的）。因此自有文本分类系统的那天起，就一直是对特征的不同选择主导着方法派

转载 文本分类入门(一)文本分类问题的定义

一个文本（以下基本不区分“文本”和“文档”两个词的含义）分类问题就是将一篇文档归入预先定义的几个类别中的一个或几个，而文本的自动分类则是使用计算机程序来实现这样的分类。通俗点说，就好比你拿一篇文章，问计算机这文章要说的究竟是体育，经济还是教育，计算机答不上就打它的屁屁（……）。注意这个定义当中着重强调的两个事实。第一，用于分类所需要的类别体系是预先确定的。例如新浪新闻的分类体系，Yahoo

转载 文本分类入门（番外篇）特征选择与特征权重计算的区别

文本分类入门（番外篇）特征选择与特征权重计算的区别 在文本分类的过程中，特征（也可以简单的理解为“词”）从人类能够理解的形式转换为计算机能够理解的形式时，实际上经过了两步骤的量化——特征选择阶段的重要程度量化和将具体文本转化为向量时的特征权重量化。初次接触文本分类的人很容易混淆这两个步骤使用的方法和各自的目的，因而我经常听到读者有类似“如何使用TFIDF做特征选择”或者“卡方检验量化权重后

转载 文本分类概述

概览　　自动文本分类(Automatic Text Categorization),或者简称为文本分类,是指计算机将一篇文章归于预先给定的某一类或某几类的过程。　　文本分类是指按照预先定义的主题类别,为文档集合中的每个文档确定一个类别.文本分类是文本挖掘的一个重要内容。　　所谓文本分类,是指对所给出的文本,给出预定义的一个或多个类别标号,对文本进行准确、高效的分类.它是许多数据管理任务