机器学习NG课程学习总结
文章平均质量分 92
吴恩达教授的机器学习课程学习总结
带着小板凳学习
一生中总会遇到这样的时候:你的内心已经兵荒马乱翻天覆地了,可是你在别人看来只是比平常时沉默了一点,没有人会觉得奇怪。这样的战争注定单枪匹马。
展开
-
NG机器学习总结(八)-K-means
一、无监督学习无监督学习(Unsupervised Learning),顾名思义,就是不受监督的学习,一种自由的学习方式。该学习方式不需要先验知识进行指导,而是不断地自我认知,自我巩固,最后进行自我归纳,在机器学习中,无监督学习可以被简单理解为不为训练集提供对应的类别标识(label)。可以简单的理解为每条数据没有类别标签来标识。看下面的两张图:有监督学习:无监督学习:有监...原创 2018-11-03 23:54:38 · 443 阅读 · 0 评论 -
NG机器学习总结-(七)SVM支持向量机
一、损失函数在逻辑回归中,我们的预测函数和损失函数为:预测函数:损失函数:我们知道当y分别是1和0的时候,其cost函数如下黑色曲线部分: 不难看出,当 y=1时,随着 z 取值变大,预测损失变小,因此,逻辑回归想要在面对正样本 y=1时,获得足够高的预测精度,就希望 。而 SVM 则将上图的曲线拉直为图中的折线,构成了 y=1时的代价函数曲线 ,如上图的...原创 2018-10-13 10:31:18 · 313 阅读 · 0 评论 -
NG机器学习总计-(六)应用机器学习算法的建议
一、防止陷入调试的不归路在线性回归中,我们使用了如下的代价函数来评估预测误差:然而现在你发现你的模型在测试集上的预测误差很大,一般会有如下的一些调整手段:采集更多的数据集 降低特征维度 采集更多的特征 进行多项式回归 调整正则化参数但是可以看出的是,这些手段有时候并不是很有用,而且你需要去尝试每种手段就会耗费很多的时间。二、模型选择和数据集在线性回归的章节中,...原创 2018-10-05 22:18:23 · 352 阅读 · 0 评论 -
NG机器学习总结-(五)正则化 Regularization
一、过拟合问题在解释什么是过拟合问题之前,首先还是以房价预测为例。假设这里我们用三种不同的模型去拟合数据集,如下图三种情况:从第一张图看,我们发现我们是用一条直线去拟合数据,但是这样的拟合效果并不好。从数据中,很明显随着房子面积的增大,房价的变化趋于稳定或者说越往后变化越平缓。这种情况属于模型并没有很好的拟合数据,我们称这种情况为欠拟合(underfitting)或者叫做高偏差。从...原创 2018-09-21 22:33:42 · 384 阅读 · 0 评论 -
NG机器学习总结-(四)逻辑回归
在第一篇博客NG机器学习总结一中,我们提到了监督学习通常一般可以分为两类:回归和分类。线性回归属于回归问题,例如房价的预测问题。而判断一封邮件是否是垃圾邮件、肿瘤的判断(良性还是恶性)、在线交易是否欺诈都是分类问题,当然这些都是二分类的问题。Email:Spam / Not Spam? (是否垃圾邮件)Online Transactions : Fraudulent(Yes or No)...原创 2018-09-08 16:59:44 · 1073 阅读 · 0 评论 -
NG机器学习总结-(三)线性回归
在前面已经简单介绍了回归问题(预测房价),其实在统计学中,线性回归(Linear Regression)是利用被称为线性回归方程的最小平方函数(Cost Function)对一个或多个自变量和因变量之间关系进行建模的一种回归分析。这种函数式一个或多个被称为回归系数的模型参数的线性组合。----此话出自《统计学习》一书,个人觉得定义的有点拗口。个人见解,线性回归其实是通过一个线性模型来找出自变量和因...原创 2018-09-01 16:30:08 · 689 阅读 · 1 评论 -
NG机器学习总结-(二)损失函数和梯度下降算法
在学习具体的机器学习算法之前,有几个知识需要弄清楚,算法的模型表示、什么是损失函数以及梯度下降算法,了解这些会帮助我们更好的理解和学习具体的机器学习算法。我们学习第一个算法是线下回归,接下来会通过线性回归来具体介绍什么样的模型更重要以及监督学习的过程,顺便复习前一章的内容。一、模型表示首先我们举一个例子,利用前一章中的预测房价(这是一个监督学习任务并且是一个回归问题)。现在我们拥有某一个城...原创 2018-08-26 17:14:58 · 3934 阅读 · 1 评论 -
NG机器学习总结-(一)简介
写在前面:看过很多的有关机器学习的书籍,如周志华的西瓜书《机器学习》,李航的《统计学习》,《十大经典数据挖掘算法》,然而始终是没有很好的理解和掌握相关的机器学习算法,一方面是基础差学习起来慢,另一方面这些书籍实在对新手来说是晦涩难懂的。幸得Professor Andrew Ng(吴恩达)的coursera机器学习课程,收益匪浅,感谢之余将自己对机器学习的个人理解整理成博客供自己日后复习。如果以...原创 2018-08-26 16:54:10 · 2123 阅读 · 1 评论