【含课程pdf & 测验答案】吴恩达-机器学习公开课 学习笔记 Week3-2 Regularization

最新推荐文章于 2020-04-04 13:12:27 发布
最新推荐文章于 2020-04-04 13:12:27 发布
阅读量377 收藏 1
点赞数
分类专栏： 机器学习入门
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/CodingRae/article/details/103493912
版权

吴恩达-机器学习公开课 学习笔记 Week3-2 Regularization

3-2 Regularization 课程内容

此文为Week3 中Regularization的部分。

3-2-1 Solving the Problem of Overfitting

The problem of overfitting

欠拟合/高偏差：没有很好地你和训练数据
过度拟合/高方差： 当变量过多时，训练出的函数总能很好拟合训练数据，代价函数接近于0。这导致它无法泛化到新的样本。
在这里插入图片描述
在这里插入图片描述
解决过度拟合：

  1. 减少选取变量数量：人工选择保留的特征量 / 模型选择算法（自动选择保留特征量）
  2. 正则化（需要所有特征量，每一个特征量都对预测有用）：保留所有特征量，但减少数量级或者θj参数值

Cost Function

加上惩罚项，让θ3 θ4足够小
在这里插入图片描述
正规化：
让一些参数值比较小，我们往往能得到一个形式更简单的假设，因此不易发生过拟合的问题。
我们对θ0不做正则化。
在这里插入图片描述
λ：正则化参数——控制两种目标（拟合训练、保持参数值小）的平衡关系。
在这里插入图片描述
如果λ特别大，就会导致欠拟合。

Regularized Linear Regression

梯度下降

在这里插入图片描述
θ0的更新不变。

正规方程

在这里插入图片描述
样本总数m小于等于特征数量n时，XTX不可逆，但是XTX+λ[…]可逆。

Regularized Logistic Regression

梯度下降

在这里插入图片描述
在这里插入图片描述

高级优化

在这里插入图片描述

测验 Regularization

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

课程链接

https://www.coursera.org/learn/machine-learning/home/week/3

课件

课件链接

CodingRae
关注
专栏目录
COURSERA 吴恩达老师机器学习课程笔记-机器学习笔记-[机器学习与推荐算法].pdf
09-03
在吴恩达老师的COURSERA机器学习课程中，他深入浅出地介绍了机器学习的基本概念和核心算法。课程笔记涵盖了从机器学习的介绍到具体模型的实现，如单变量和多变量线性回归。以下是这些知识点的详细解释： 1. **机器...
【吴恩达机器学习笔记】Week3 ex2答案
Vincent Lai的博客
09-17 1323
function plotData(X, y) %PLOTDATA Plots the data points X and y into a new figure % PLOTDATA(x,y) plots the data points with + for the positive examples % and o for the negative examples. X is as...
Week 3 测验 Regularization【Maching learning】
han_hhh的博客
04-04 167
正确答案：C A的错误原因：将正则化方法加入模型并不是每次都能取得好的效果,如果λλ取得太大的化就会导致欠拟合. 这样不论对traing set 还是 examples都不好 正确答案：A D的错误原因：正则化和J(theta)收不收敛没关系 ...
Machine Learning week 3 quiz : Regularization
热门推荐
GarfieldEr007的专栏
11-17 2万+
Regularization 5 试题 1.  You are training a classification model with logistic regression. Which of the following statements are true? Check all that apply.
Coursera机器学习第三周Regularization练习题
b296405422的博客
05-18 2651
为什么要特别拿出来说这周呢？因为自己在做复选题时感觉只有一个答案正确，但他是多选题，所以试错了两次后，终于在第三次错了要等8小时的恐惧下使用了百度，然后发现是单选.... 因为coursera经常会调整选项顺序和答案内容，比如这周第一题，所以建议各位不要抄答案，理解了再去做。 然后上结果，先证明自己是对的，这下你们就可以听我胡说了，23333. 第一题 第一个选项：加入一个新特征总...
Coursera机器学习-Week 3-测验:Regularization
逐梦者
05-25 3484
正则化方法： J(θ)=12m[∑i=1m(hθ(x(i))−y(i))2+λ∑i=1nθ2j]J(θ)=12m[∑i=1m(hθ(x(i))−y(i))2+λ∑i=1nθj2]J(\theta) = \frac{1}{2m}\left[\sum_{i = 1}^m {(h_\theta(x^{(i)}) - y^{(i)})}^2 + \lambda\sum_{i = 1}^n \theta_...
吴恩达-机器学习-个人笔记完整版
最新发布
12-15
这份"吴恩达-机器学习-个人笔记完整版"包含了该课程的主要知识点，以及作者对这些知识的理解和补充，对于想要深入学习或复习机器学习的人来说是一份宝贵的资源。 首先，笔记可能从机器学习的基本概念开始，如监督...
吴恩达-斯坦福大学-机器学习公开课-讲义原稿
10-06
吴恩达老师在斯坦福大学讲的机器学习公开课，原始英文讲义，可供下载。一边看视频一边看讲义，效果可能更好一些。
2022-吴恩达机器学习课程(原始讲义)高清完整版PPTpdf
05-08
2022_吴恩达机器学习课程(原始讲义)高清完整版PPTpdf 包含对应课程所有PPT 仅供大家学习使用，请勿用作商业目的
吴恩达-机器学习个人笔记完整版 pdf
10-28
《吴恩达-机器学习个人笔记完整版》是深度学习领域的经典学习资料，由著名人工智能专家吴恩达（Andrew Ng）编著。这份笔记详细涵盖了机器学习的基础理论、算法及实践应用，对于初学者和进阶者都是极好的参考资料。在...
机器学习测试Week3_2Regularization
wangcong02345的专栏
01-10 1万+
Week3_2Regularization 第 1 题 You are training a classification model with logistic regression. Which of the following statements are true? Check all that apply. Introducing regularization to t
【含课程pdf & 测验答案】吴恩达-机器学习公开课 学习笔记 Week3-1 Logistic Regression
CodingRae的博客
12-12 727
吴恩达-机器学习公开课 学习笔记 Week2-3 Octave/Matlab Tutorial 2-3 Octave/Matlab Tutorial 课程内容2-3-1测验 Octave/Matlab Tutorial课程链接课件 2-3 Octave/Matlab Tutorial 课程内容 此文为Week2 中Octave/Matlab Tutorial的部分。关于Octave语言的具体操作。...
斯坦福机器学习视频笔记 Week3 逻辑回归与正则化 Logistic Regression and Regularization...
weixin_30532837的博客
01-26 148
我们将讨论逻辑回归。 逻辑回归是一种将数据分类为离散结果的方法。 例如，我们可以使用逻辑回归将电子邮件分类为垃圾邮件或非垃圾邮件。 在本模块中，我们介绍分类的概念，逻辑回归的损失函数（cost functon），以及逻辑回归对多分类的应用。 我们还涉及正规化。 机器学习模型需要很好地推广到模型在实践中没有看到的新例子。 我们将介绍正则化，这有助于防止模型过度拟合训练数据。 Classifica...
吴恩达机器学习课笔记week 3
咚咚锵的博客
07-15 460
本周主要讲分类、逻辑回归以及正则化
机器学习中的正则化(Regularization)
LFGxiaogang的博客
03-20 608
转自：https://www.jianshu.com/p/569efedf6985 文中部分图片摘自吴恩达deeplearning课程的作业，代码及课件在我的github： ​DeepLearning 课件及作业 关于本篇正则化的具体路径是： ​正则化作业 正则化的概念及原因 简单来说，正则化是一种为了减小测试误差的行为(有时候会增加训练误差)。我们在构造机器学习模型时，最终目的是让模型在...
【机器学习】特征工程一些小trick
孟知之的搬砖填坑历险记
02-17 1147
文章目录特征工程1.特征无量纲化1.1归一化 (Normalization)1.2标准化(Standardization)1.3正则化2.生成交叉项3.对数的数据变换4.处理缺失值4.1计算缺失值个数4.2删除有缺失值的数据4.3填充缺失值5.通过正则提取字符串里的指定内容6.字典批量修改变量值7.独热编码7.1数值型类别变量7.2字符串型类别变量8.分桶9.处理数据倾斜9.1观察数据集中数据是否...
吴恩达 机器学习笔记七（lecture 7）（正则化Regularization）
12-01 4672
正则化 Regularization 1、过拟合 overfitting eg1:线性回归 图一：欠拟合，高偏差 图三：过拟合，高方差（一般在变量很多的时候发生，这种时候训练出的方程总能很好拟合训练数据，但是对于新的样本数据不能体现出很好的繁华能力）
深度学习.Chapter11笔记[性能度量指标]——正确率、召回率、敏感度、特异度，ROC曲线、AUC值
weekdayh的博客
02-17 2350
本文转自 http://zhwhong.ml/2017/04/14/ROC-AUC-Precision-Recall-analysis/    在分类任务中，人们总是喜欢基于错误率来衡量分类器任务的成功程度。错误率指的是在所有测试样例中错分的样例比例。实际上，这样的度量错误掩盖了样例如何被分错的事实。在机器学习中，有一个普遍适用的称为混淆矩阵(confusion matrix))的工具，它可以帮...
吴恩达Machine learning-- week3课后作业
yyxyuxueYang的博客
08-08 1420
解析：hθ(x) will give us the probability that our output is 1, hθ(x) 表示y=1时的概率 解析：求解中，该答案是错的，劳烦大神们指教。 解析：注意线性回归和逻辑回归的区别 解析： sigmoid函数的取值范围是(0,1). 正确 costFunction 大于等于0. 正确 解析：...
吴恩达机器学习公开课笔记：从单变量到多层理解
吴恩达的机器学习课程是斯坦福大学的一门经典公开课，由知名教授Andrew Ng主讲，适合初学者系统入门机器学习。这些笔记详细记录了课程内容，包括了第一周至第六周的学习要点，涵盖了监督学习与非监督学习的基本概念...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值