机器学习
文章平均质量分 78
maverick1990
这个作者很懒,什么都没留下…
展开
-
【机器学习-斯坦福】学习笔记2 - 监督学习应用与梯度下降
监督学习应用与梯度下降本课内容:1、 线性回归2、 梯度下降3、 正规方程组 (复习)监督学习:告诉算法每个样本的正确答案,学习后的算法对新的输入也能输入正确的答案 1、 线性回归例:Alvin汽车,先让人开车,Alvin摄像头观看(训练),而后实现自动驾驶。本质是一个回归问题,汽车尝试预测行驶方向。 例:上一节课的房屋原创 2013-09-05 22:53:17 · 10524 阅读 · 9 评论 -
【机器学习-斯坦福】学习笔记3 - 欠拟合与过拟合概念
欠拟合与过拟合概念本次课程大纲:1、 局部加权回归:线性回归的变化版本2、 概率解释:另一种可能的对于线性回归的解释3、 Logistic回归:基于2的一个分类算法4、 感知器算法:对于3的延伸,简要讲 复习: –第i个训练样本令,以参数向量为条件,对于输入x,输出为:n为特征数量 定义成本函数J,定义为:原创 2013-09-16 10:08:48 · 17079 阅读 · 6 评论 -
【机器学习-斯坦福】学习笔记5 - 生成学习算法
生成学习算法本次课程大纲:1、 生成学习算法2、 高斯判别分析(GDA,Gaussian Discriminant Analysis)- 高斯分布(简要)- 对比生成学习算法&判别学习算法(简要)3、 朴素贝叶斯4、 Laplace平滑原创 2013-10-28 13:47:55 · 4950 阅读 · 0 评论 -
【机器学习-斯坦福】学习笔记7 - 最优间隔分类器问题
本次课程大纲:1、 最优间隔分类器2、 原始优化问题&对偶优化问题(KKT条件)3、 SVM对偶问题4、 核方法(下一讲)原创 2013-11-21 20:08:01 · 9361 阅读 · 1 评论 -
【机器学习-斯坦福】学习笔记6 - 朴素贝叶斯
本次课程大纲:1、 朴素贝叶斯- 朴素贝叶斯事件模型2、 神经网络(简要)3、 支撑向量机(SVM)铺垫 – 最大间隔分类器原创 2013-11-14 12:41:37 · 5931 阅读 · 0 评论 -
【机器学习-斯坦福】学习笔记1 - 机器学习的动机与应用
开始看Andrew Ng的经典课程机器学习,随堂做的学习笔记机器学习的动机与应用工具:需正版:Matlab,免费:Octave 定义(Arthur Samuel 1959):在不直接针对问题进行编程的情况下,赋予计算机学习能力的研究领域。例:Arthur的下棋程序,计算走每一步获胜的概率,最终打败程序作者本人。(感觉使用决策树思想) 定义2(Tom Mitchell原创 2013-08-29 17:23:11 · 17842 阅读 · 2 评论 -
bootstrps 、bagging与 boosting
转自:http://blog.sina.com.cn/s/blog_5dd2e9270100c8ko.htmlbootstrps bagging boosting这几个概念经常用到,现仔细学习了一下:他们都属于集成学习方法,(如:Bagging,Boosting,Stacking),将训练的学习器集成在一起,原理来源于PAC学习模型(Probably Approxima转载 2014-05-09 15:08:18 · 1022 阅读 · 0 评论 -
如何选择机器学习分类器?
你知道如何为你的分类问题选择合适的机器学习算法吗?当然,如果你真正关心准确率,那么最佳方法是测试各种不同的算法(同时还要确保对每个算法测试不同参数),然后通过交叉验证选择最好的一个。但是,如果你只是为你的问题寻找一个“足够好”的算法,或者一个起点,这里有一些我这些年发现的还不错的一般准则。你的训练集有多大?如果训练集很小,那么高偏差/低方差分类器(如朴素贝叶斯分类器)要优于低偏差/高方差分转载 2014-07-03 14:46:00 · 1508 阅读 · 0 评论 -
【机器学习-斯坦福】学习笔记4 - 牛顿方法
牛顿方法本次课程大纲:1、 牛顿方法:对Logistic模型进行拟合2、 指数分布族3、 广义线性模型(GLM):联系Logistic回归和最小二乘模型 复习:Logistic回归:分类算法假设给定x以为参数的y=1和y=0的概率:求对数似然性:对其求偏导数,应用梯度上升方法,求得:本次课程介绍的牛顿方法是原创 2013-10-10 12:45:33 · 7376 阅读 · 5 评论