《Andrew Ng 机器学习笔记》这一系列文章文章是我再观看Andrew Ng的Stanford公开课之后自己整理的一些笔记,除了整理出课件中的主要知识点,另外还有一些自己对课件内容的理解。同时也参考了很多优秀博文,希望大家共同讨论,共同进步。
网易公开课地址:http://open.163.com/special/opencourse/machinelearning.html
本篇博文涉及课程四:牛顿方法
主要内容有:
(1)牛顿法(Newton's Method)
(2)指数分布族
(3)广义线性模型(GLMS) (下篇博文具体分析)
(4)多项式分布 (下篇博文具体分析)
牛顿法
牛顿方法也是对解空间进行搜索。
基本思想:
对于函数f(x),如果我们要找到使得函数值为0的x值时,做法如下:
1、随机选一个点(θ0),然后求出该点的切线,即导数。
2、延长它使之与x轴相交,以相交时的x的值(θ1)。