![](https://img-blog.csdnimg.cn/20201014180756913.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 76
肖橘猫
这个作者很懒,什么都没留下…
展开
-
【用python实现《统计学习方法》】之感知机(perceptron)
声明:首先非常感谢李航博士和这篇博文的博主。本文的理论部分主要参考李航博士的《统计学习方法》,而代码实现部分则是在上述的博文基础上完成,并新增了对偶形式的感知机的python实现。感知机(perceptron)是机器学习中最简单的算法之一,容易理解和实现。笔者将使用python实现感知机的算法(重复造轮子),包括感知机的原始形式和对偶形式。model感知机的定义:strategy感知机学习的经验风险原创 2017-07-02 17:56:08 · 4189 阅读 · 0 评论 -
【转载】梯度下降算法详解
http://www.cnblogs.com/pinard/p/5970503.html转载 2017-10-17 19:08:47 · 246 阅读 · 0 评论 -
《机器学习基石》笔记:第一讲
林轩田老师的《机器学习基石》和《机器学习技法》两门课程非常经典,从哲学原理讲到算法核心,深入浅出,非常详细。但存在两个问题: 1.林老师是台湾(省)人,很多舶来品词语的翻译和大陆不同,加上林老师讲的比较快,一次听明白还是不容易的。 2.由于课程是视频形式,回头复习比较麻烦。 因此,想把每节课的重要内容以笔记的形式记录下来,以供未来反复回头翻看。希望能坚持下来:) 下面开始正式内容。1.课程介绍原创 2017-10-08 20:40:29 · 412 阅读 · 0 评论 -
《机器学习基石》笔记:第二讲
第二讲主要是通过PLA(Perceptron Learning Algorithm)讲解二分类问题(Binary Classification)。关于PLA算法的基础内容,在这篇博文已经深入探究了,该博文主要记录一些扩展的知识。 1假设空间(hypothesis set) 对于Perceptron来说,假设空间就是样本点(sample points)所在平面的所有直线。 2.PLA的几何解释原创 2017-10-09 20:18:03 · 375 阅读 · 0 评论 -
《机器学习基石》笔记:第三讲
第三讲主要根据Output Space/Data Labels/learning protocol/Input Space的不同,将机器学习问题划分为几个种类。 1.输出空间(Output Space) 分类器(Classification)经过training set训练,对unseen data进行预测,输出labels。根据labels的不同,可以将机器学习分为Binary classif原创 2017-10-10 13:16:05 · 279 阅读 · 0 评论 -
【用python实现《统计学习方法》】之决策树C4.5/ID3
声明:本文根据李航博士的《统计学校方法》中的决策树章节的原理:最大熵信息增益、信息增益比进行决策树的实现。在可视化方面主要参考的这篇博文。决策树算法是一类在数据挖掘中应用的特别多的符号学派分类器,并在集成学习中被大大采用。经典的c4.5和id3以及后来的cart是了解诸如GBDT等集成学校算法的基础,因此笔者尝试自己实现一次(重复造轮子)。model决策树的定义:strategy决策数学习的关键就是原创 2015-10-02 15:08:54 · 608 阅读 · 1 评论