博客专栏  >  互联网   >  机器学习

机器学习

机器学习原理及实现

关注
38 已关注
13篇博文
  • 机器学习常见算法概述

    本文主要包括常见机器学习算法的实现,其中数学推导、原理、并行实现会给出链接。 机器学习(Machine Learning, ML)是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂...

    2016-08-22 14:34
    2509
  • 线性回归原理篇

    介绍 经典线性模型自变量的线性预测就是因变量的估计值。 广义线性模型:自变量的线性预测的函数是因变量的估计值。常见的广义线性模型有:probit模型、poisson模型、对数线性模型等等。对数线性模型...

    2016-04-15 10:15
    4676
  • 逻辑斯蒂回归原理篇

    1.逻辑斯蒂回归模型LR模型主要用于分类模型,细心的人不难发现LR模型在线性回归模型上加了一个sigmoid转换。为了更加深入地了解这个模型,我们可能要思考以下几个问题(1)sigmoid从何而来,篇...

    2016-04-17 11:40
    8282
  • 支持向量机SVM原理篇

    1.关键概念及学习目标 线性&非线性分类问题&核技巧 非线性分类问题是指通过利用非线性模型才能很好地进行分类的问题。如上图左侧,我们无法用直线(线性模型)将正负例正确分开,但可以用一条椭圆曲线(...

    2016-06-15 10:17
    4340
  • 神经网络从原理到实现

    1.简单介绍 在机器学习和认知科学领域,人工神经网络(artificial neural network,缩写ANN),简称神经网络(neural network,缩写NN)或类神经网络,是一种模...

    2016-11-29 17:14
    3706
  • 决策树算法及可视化实现

    序本文旨在对决策树算法的python实现及利用matplotlib绘制树进行学习。算法描述(1)最小二乘回归树生成算法(2)CART生成算法 其中,5.25如下1.计算给定数据集的香农熵def ca...

    2016-07-22 15:57
    3894
  • 随机森林原理篇

    1.分类回归树CART 随机森林是由多颗CART树组成的,下面简单叙述下回归树及生成树的算法 (1)最小二乘回归树生成算法 (2)分类树的生成 分类树可以使用基尼指数、信息增益、分类误差率...

    2016-04-18 09:58
    11044
  • 梯度提升树GBDT原理

    1.模型提升方法实际采用加法模型(即基函数的线性组合)与前向分布算法。以决策树为基函数的提升方法称为提升树(boosting tree)。对分类问题决策树是二叉分类树,对回归问题决策树是二叉决策树。提...

    2016-04-19 11:19
    23405
  • xgboost原理

    文章内容可能会相对比较多,读者可以点击上方目录,直接阅读自己感兴趣的章节。1.序  距离上一次编辑将近10个月,幸得爱可可老师(微博)推荐,访问量陡增。最近毕业论文与xgboost相关,于是重新写一下...

    2016-04-21 10:15
    83330
  • EM算法

    1.背景知识(1)期望离散型  X1,X2,X3,……,Xn为这离散型随机变量,p(X1),p(X2),p(X3),……p(Xn)为这几个数据的概率函数。在随机出现的几个数据中p(X1),p(X2),...

    2016-12-21 16:25
    1422
  • 隐马尔可夫模型(HMM)

    隐马尔可夫模型原理部分可以概括为三句话:一个定义、两个假设、三个问题  HMM是一个五元组(Y,X,π,A,B),其中Y是状态(输出)的集合,X是观察值(输入)集合,π是初始状态的概率,A是状态转移概...

    2016-12-26 15:10
    1390
  • 条件随机场(CRF)

    条件随机场应该是机器学习领域比较难的一个算法模型了,难点在于其定义之多(涉及到概率图模型、团等概率)、数学上近似完美(涉及到概率、期望计算,最优化方面的知识),但是其在自然语言处理方面应用效果比较好,...

    2016-12-28 11:15
    5075
  • 梯度下降、牛顿法、拟牛顿法

    介绍 在向量微积分中,标量场的梯度是一个向量场。标量场中某一点上的梯度指向标量场增长最快的方向,梯度的长度是这个最大的变化率。更严格的说,从欧几里得空间Rn到R的函数的梯度是在Rn某一点最佳的线性...

    2016-08-10 18:50
    4382

img博客搬家
img撰写博客
img发布 Chat
img专家申请
img意见反馈
img返回顶部