博客专栏  >  综合   >  机器学习专栏

机器学习专栏

机器学习(周志华版)学习笔记和知识点。

关注
10 已关注
58篇博文
  • 机器学习笔记(一)绪论

    1.绪论 1.1引言 机器学习致力于研究如何通过计算的手段,利用经验来改善系统自身的性能;经验,则以数据的形式存在,故而,机器学习所研究的,正是在计算机上从数据中产生模型的算法,即学习算法。基于学习算...

    2017-01-03 12:45
    2095
  • 机器学习知识点(一)文本字符信息熵Java实现

    用熵来评价整个随机变量平均的信息量,而平均最好的量度就是随机变量的期望,即熵的定义如下: 计算字符的信息熵,参考代码如下: package sk.ann; import java.util.Sca...

    2017-01-03 14:29
    2618
  • 机器学习知识点(二)各类型平均数Java实现

    代码如下:

    2017-01-06 11:20
    2175
  • 机器学习笔记(二)模型评估与选择

    2.模型评估与选择 2.1经验误差和过拟合 不同学习算法及其不同参数产生的不同模型,涉及到模型选择的问题,关系到两个指标性,就是经验误差和过拟合。 1)经验误差 错误率(errorrate):分类错误...

    2017-01-10 10:55
    3807
  • 机器学习知识点(三)方差和标准差Java实现

    1、方差:方差是各个数据与平均数之差的平方的平均数。 2、标准差: 标准差(Standard Deviation)  各数据偏离平均数的距离(离均差)的平均数,它是离差平方和平均后的方根。用σ表示。...

    2017-01-10 17:15
    4316
  • 机器学习笔记(三)线性模型

    3.线性模型 3.1基本形式 线性模型(linearmodel)形式简单、易于建模,如果能把问题都用线性模型来刻画,那现今的世界就单调多了,好在我们的宇宙是如此的丰富,以至于需要通过更强大的非线性...

    2017-01-17 10:32
    2224
  • 机器学习知识点(四)最小二乘法Java实现

    最小二乘法(又称最小平方法)是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法可以简便地求得未知的数据,并使得这些求得的数据与实际数据之间误差的平方和为最小。最小二乘法...

    2017-01-17 11:27
    2099
  • 机器学习知识点(五)梯度下降法Java实现

    梯度下降法,就是利用负梯度方向来决定每次迭代的新的搜索方向,使得每次迭代(步长)能使待优化的目标函数逐步减小。梯度下降法是2范数下的最速下降法,用来求解函数的最小值,无约束优化。 看数学定义都晦涩,...

    2017-01-17 15:57
    2410
  • 机器学习知识点(六)增广矩阵求解拉格朗日乘子法的Java实现

    基本的拉格朗日乘子法就是求函数f(x1,x2,...)在g(x1,x2,...)=0的约束条件下的极值的方法。其主要思想是将约束条件函数与原函数联系到一起,使能配成与变量数量相等的等式方程,从而求出得...

    2017-01-18 09:49
    1992
  • 机器学习笔记(四)决策树

    4.决策树 4.1基本流程 决策树(decisiontree)基于树结构进行决策,符合人的思维机制,是一类常见的机器学习方法。一般的,一棵决策树包含一个根结点、若干个内部结点和若干个叶结点。叶结点...

    2017-02-04 10:34
    2177
  • 机器学习知识点(七)决策树学习算法Java实现

    为理解机器学习第四章节决策树学习算法,通过网上找到的一份现成代码,主要实现了最优划分属性选择和决策树构造,其中最优划分属性选择采用信息增益准则,代码如下: package sk.ml; import...

    2017-02-04 11:21
    2020
  • 机器学习知识点(八)感知机模型Java实现

    感知机模型 假设输入数据集为表示是n个训练数据样本。输出y只有两个值(-1,+1)两个分类。那么感知机模型可以表示为以下函数: 其中sign是符号函数,意义如下。w表示权值,b表示...

    2017-02-06 10:50
    2022
  • 机器学习笔记(五)神经网络

    5.神经网络 5.1神经元模型 神经网络是由具有适应性的简单单元组成的广泛并行互连的网络,它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。对这句话的理解,简单提要下,主角是简单单元(输...

    2017-02-08 11:18
    2451
  • 机器学习知识点(九)BP神经网络Java实现

    为深入理解机器学习中BP神经网络算法,从网上找到的Java实现代码。 1、BP神经网络结构如下图所示,最左边的是输入层,最右边的是输出层,中间是多个隐含层,隐含层和输出层的每个神经节点,都是由上一层节...

    2017-02-09 09:31
    2077
  • 机器学习笔记(六)支持向量机

    6.支持向量机 6.1间隔与支持向量 对于给定的训练集D={(x1,y1),(x2,y2),…,(xm,ym)},yi∈{-1,+1},分类学习的初衷就是基于训练集在样本空间中找到一个可以有效划分样本...

    2017-02-22 11:30
    2077
  • 机器学习笔记(七)贝叶斯分类器

    7.贝叶斯分类器 7.1贝叶斯决策论 贝叶斯决策论(Bayesiandecision theory)是概率框架下实施决策的基本方法。对分类任务来说,在所有相关概率都已知的理想情形下,贝叶斯决策论考...

    2017-03-03 08:56
    4852
  • 机器学习知识点(十)马尔可夫链

    马尔可夫链概述 马尔可夫链因安德烈·马尔可夫(Andrey Markov,1856-1922)得名,是数学中具有马尔可夫性质的离散时间随机过程。该过程中,在给定当前知识或信息的情况下,过...

    2017-03-03 09:37
    2480
  • (转载)机器学习知识点(十一)隐马尔可夫模型

    隐马尔可夫模型 (Hidden Markov Model,HMM) 最初由 L. E. Baum 和其它一些学者发表在一系列的统计学论文中,随后在语言识别,自然语言处理以及生物信息等领域体现了很大的价...

    2017-03-03 09:45
    1809
  • (转载)机器学习知识点(十二)坐标下降法(Coordinate descent)

    首先介绍一个算法:coordinate-wise minimization 问题的描述:给定一个可微的凸函数,如果在某一点x,使得f(x)在每一个坐标轴上都是最小值,那么f(x)是不是一个全局的最小...

    2017-03-03 09:53
    1901
  • (转载)机器学习知识点(十三)吉布斯采样法(Gibbs Sampling)

    3.1 随机模拟 随机模拟(或者统计模拟)方法有一个很酷的别名是蒙特卡罗方法(Monte Carlo Simulation)。这个方法的发展始于20世纪40年代,和原子弹制造的曼哈顿计划密切相关...

    2017-03-03 10:17
    2049

python专栏
2941981
Hadoop专栏
71179780
算法导论专栏
4499174

img博客搬家
img撰写博客
img专家申请
img意见反馈
img返回顶部