Stanford Machine Learning
Stanford Machine Learning
Forlogen
无论世事如何,你都要成为一个更优秀的人。
展开
-
Stanford机器学习-降维
一、降维动机:数据压缩在前面学习了第一个无监督的学习算法-聚类,主要是K-means算法,接下来要学习第二个无监督的算法-降维。促使我们使用降维的原因有很多,可能是我们希望压缩数据,来减小数据占用计算机内存或是硬盘的大小,也可能是希望通过降低数据的维度来加快我们的算法的运行。比如我们有上面的一些数据,我们用x1表示长度,单位选择厘米,x2用英寸来表示高度,这样看来两个变量表示的实际意义是一...原创 2018-10-15 22:28:11 · 291 阅读 · 0 评论 -
Stanford机器学习-Linear Regressioon with One Variable(2)
代价函数 (Cost function)前面我们已经得到了如下的训练集: 如图所示,现有显示的有四条数据,我们假设函数 ,那么两个参数该如何选择呢,这就是我们要做的工作。下面我们来对这两个参数取一些值来看看具体是什么情况。 当取不同的参数时,所画出的线各不一样,那么那一条更好呢?这就引出了一个所谓的代价的问题,也就是我们通过训练集所得出的模型来预测的数值和真实值之间的差距。...原创 2017-01-21 18:18:44 · 931 阅读 · 0 评论 -
Stanford机器学习-Linear Regressioon with One Variable(1)
一、模型代表(Model representatino)之前大体上学习了关于机器学习的一些总体的内容,接下来开始学习有关机器学习一些经典的算法,第一个学习的是:回归算法。下面我们还用房屋价格的例子来学习: 坐标图中横轴表示的是房屋的面积大小,纵坐标表示的是价格,坐标图中已经描出了一系列的点,也就是我们现有的真实的数据。我们现在要做的就是寻找一条合适的回归曲线,使得可以更好的拟合现有的数据。如图原创 2017-01-21 17:25:11 · 1024 阅读 · 0 评论 -
Stanford机器学习-Introduction
一、What is Machine Learning自己刚刚考完研,看来看去不知道学什么看什么,刷微博看到现在发展正好的机器学习、深度学习等,于是鼓起信心和好奇心开始尝试学习一下机器学习的相关入门知识。接着便开始找资料,这里开始学习Stanford大学Andrew Ng老师的机器学习课程。机器学习其实存在于我们生活的很多方面,比如现在移动设备上相册的自动分类功能等, 比如: ...原创 2017-01-18 15:06:54 · 884 阅读 · 0 评论 -
Octave入门笔记
一、Octave简介是一款用于数值计算和绘图的开源软件。和Matlab 一样,Octave 尤其精于矩阵运算:求解联立方程组、计算矩阵特征值和特征向量等等。在许多的工程实际问题中,数据都可以用矩阵或向量表示出来而问题转化为对这类矩阵的求解。另外,Octave 能够通过多种形式将数据可视化,并且Octave 本身也是一门编程语言而易于扩展。因此我们可以称Octave 是一款非常强大的可编程可视化计算程原创 2017-01-14 12:58:07 · 4646 阅读 · 1 评论 -
Machine Learning-Octave的下载与安装
一、下载首先进入Octave的官网, 点击Download,进入下载页面,选择适合自己操作系统的版本,这里选择Windows,网址为:https://ftp.gnu.org/gnu/octave/windows/. 点击进入下载页面会有很多的版本供下载,这里选择:octave-4.2.0-w64-installer.exe进行下载 下载完成后即可进行安装了。二、安装点击安装文件进行安装 安装原创 2017-01-14 11:15:54 · 26071 阅读 · 1 评论 -
Stanford机器学习-异常检测和多元高斯分布
一、异常检测这章主要学习异常检测问题,它是机器算法的一个常见应用,同时也对于我们生活中的很多问题有很大的帮助,总的来说,它主要用于非监督的学习问题。那我们怎么来理解异常检测是一个怎么样的问题呢?我们来看一个相关的问题:飞机引擎的检测。因为引擎对于飞机来说是一个很重要的部件,所以对于它的质量把关,是一个很重要的事。假如我们通过检测测得了引擎的发热量记为 x1 ,引擎的振动记为 x2 等等一系列...原创 2018-10-28 16:11:45 · 1325 阅读 · 1 评论 -
Stanford机器学习-推荐系统
这一讲来学习一下推介系统,这个东西在我们的日常生活中很常见也很重要,当你使用某些网站的时候,网站自动会为你推荐某些商品或是推荐某些视频作品,这些看起来总是和我们之前的购买历史或是浏览历史相似。那它背后是怎么运行的,算法的原理是什么?这一讲来简单学习一下。假设我们有如下的数据集,它包含五部电影,以及四位用户分别对它们的评价,评价从零星到五星,有的电影没有评价就用?标注。为了方便后面公式化的推导,...原创 2019-02-19 14:38:00 · 380 阅读 · 0 评论 -
Standard机器学习-大规模数据集的机器学习
在实际的机器学习的应用中,我们需要使用的是很大规模的数据集,如何在上面训练我们的机器学习算法,是一个很重要的问题。而且当我们的数据集足够大的时候,相近的模型就可以取得更好的效果。那么如何应对这种大规模的数据集呢?以线性回归为例,在求解代价函数时,我们通常使用的是下降梯度法,其中就需要计算训练集的误差的平方和,如果多次迭代的话,那计算量将会是大到我们难以处理。所以,首先要做的事就是看是否需要这么...原创 2019-02-19 18:30:17 · 763 阅读 · 0 评论 -
Stanford机器学习-Linear Regressioon with One Variable(3)
梯度下降(Gradient descent)前面学习了有关代价函数的问题,看一下有关的一些表达: 如图所示,我们有一个代价函数,可以包含若干个参数,我们的目标是想得到代价函数的最小值。步骤是我们首先选择一些值,慢慢的不断改变参数值,希望可以到达最小值。换言之,最小值是客观存在的,如何到达这一点,就会有不同的路径,这就引出了梯度下降。看下面两张等高图: ...原创 2017-01-22 17:35:23 · 779 阅读 · 0 评论 -
Stanford机器学习-Matrices and vectors
这部分老师讲的是有关线性代数的一些基础知识,由于我本科学习过,基础也挺扎实,所以就不具体写了,想要学习线性代数的有关知识,也可以找相关的书籍整体学习更好,这里把老师的PPT放出来,一边以后回顾。矩阵的定义矩阵与向量的定义矩阵的加法 注意相加的必须是同型矩阵。矩阵的乘法矩阵的混合运算乘法的定义规则及例示 这里要注意这些要点一些特殊矩阵的定义矩阵的逆和转置原创 2017-01-22 17:49:17 · 918 阅读 · 0 评论 -
Stanford机器学习-Linear Regressioon with Multiple variables(1)
一、Multiple features前面的课程中学习到的线性回归算法只含有一个或是两个变量,如房屋价格的例子: 对于这个的拟合假设这里只有两个参数 θ0和 θ1,但在实际生活中影响房屋价格的因素往往还有很多,比如: 卧室的数量,楼层数等;我们希望可以用一个矩阵来存储相关的数据,具体的表示如图片中所写的那样,这样我们就可以使用向量来计算。在这样的情况下,我们所需的假设参数就会有...原创 2018-04-09 23:53:27 · 425 阅读 · 0 评论 -
Stanford机器学习--聚类
原创 2018-10-15 08:38:39 · 260 阅读 · 0 评论 -
Stanford机器学习-支持向量机SVM
Stanford机器学习—支持向量机SVM转载 2018-10-14 16:55:30 · 194 阅读 · 0 评论 -
Stanford机器学习-应用机器学习的建议
1. Deciding what to try next前面我们以及学习了线性回归、Logistic回归和神经网络等不同的机器学习算法,那么在实际应用中,如果我们需要设计一个机器学习系统或是想要改进现存的某个系统的性能时,选择一条合适的道路,也就是选择一些适合与实际问题的方法,将达到事半功倍的效果。那么我们以前面学习的预测房价的例子来看如何选择。假设我们已经完成了正则化的线性回归,对应的...原创 2018-09-26 10:18:32 · 414 阅读 · 0 评论 -
Stanford机器学习-Neural Networks : learning
一、代价函数前面学习了有关神经网络的基本知识和一些小的例子,这节课学习更深层次的东西,首先来看代价函数。我们假设我们的神经网络如图所示,给定数据集D={(x1,y1)…(xn,yn)},x表示输入信号,y表示输出信号,L表示神经网络的层数Sl表示每一层上神经元单元的个数。在分类问题中,我们可以粗略的分为两类1. 二分类问题在输出单元我们可以用1表示正例,0表示负例,或者相反;2....原创 2018-09-23 20:11:11 · 530 阅读 · 0 评论 -
Stanford机器学习-Neural Networks Representation
fad原创 2018-09-20 17:47:03 · 271 阅读 · 0 评论 -
Stanford机器学习-Regularization
The problem of overfitting在前面的Linear Regression和Logistic Regression中,给定一个数据集,我们都希望找到一条线去拟合数据或是对数据进行合理有效的分类。 在线性回归预测房价的例子中,第一次我们用一条直线来拟合数据,但处于一直上升的趋势,实际中房价应该会逐步趋于平稳,显然不符合实际,我们说这个拟合模型是“欠拟合的”或是“高偏差的...原创 2018-04-11 23:45:25 · 703 阅读 · 0 评论 -
Stanford机器学习-Logistic Regression
Classification分类是我们实际生活中经常使用的一个方法,我们需要根据实际的需求将一些东西实际的分别开,例如: 我们需要识别邮件是正常的还是垃圾邮件;在线交易是否是欺诈的;肿瘤是良性的还是恶性的。在这些问题中,结果通常分为两类,即Y的取值为0或1,0表示的是Negative Class,1表示的是Positive Class,复杂情况下Y的取值可能还有其他,但都是些离散的值。...原创 2018-04-10 18:42:46 · 347 阅读 · 0 评论 -
Stanford机器学习-Linear Regressioon with Multiple variables(2)
Normal equation在前面我们使用的都是梯度下降的方法,此外还有一种叫做正规方程的方法,有时效果更好。 如果代价函数是有关于参数的二次方程 如图所示: 我们就可以使代价函数的偏导数为零的方法来求得参数(微积分中类似于求极值的方式)。当代价函数为平方误差表达式时,我们同样可以对每一个参数求偏导得到一组参数列表,使得代价最小。 在预测房价的例子中,我们使用矩阵X来存储...原创 2018-04-10 10:21:55 · 334 阅读 · 0 评论 -
Standard机器学习-机器学习的应用实例
在学习了有关机器学习的算法和相关的知识后,了解一下机器学习的几个应用场景。最常见的一个应用就是图像文字的识别,通过在给定的图片中运行算法,来给出图片中存在的文字。主要的步骤如下所示:• 文字的侦测:识别出图片中文字的范围,利用矩形框等将其与其他的环境对象分隔开• 字符的切分:在侦测到文字的范围后,需要将其切割成一个个单一的字符• 字符的分类:确定上一部分割的字符是什么在实际使用中,常采...原创 2019-02-20 12:20:58 · 407 阅读 · 0 评论