【吴恩达 Machine Learning】 第一课 Week 2 学习笔记

已于 2023-06-29 08:56:06 修改
阅读量187 收藏
点赞数
分类专栏： Machine Learning Notes 文章标签： 机器学习 machine learning
于 2023-06-27 20:08:14 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_47279003/article/details/131424248
版权

文章目录

Week 2

3.1 多维特征

1）符号表示

X j X_j Xj​：第 j j j个特征

n n n：特征的总数

x ⃗ ( i ) \vec{x}^{(i)} x (i)：包含第 i i i 个训练示例的所有特征向量

x ⃗ j ( i ) \vec{x}_j^{(i)} x j(i)​：包含第 i i i 个训练示例的所有特征向量的第 j j j 个特征

在这里插入图片描述

2）多元线性回归

在这里插入图片描述在这里插入图片描述

3）向量化

计算机硬件可以并行工作，所以向量化后运行速度快。

在这里插入图片描述
在这里插入图片描述

4）梯度下降

在这里插入图片描述在这里插入图片描述

3.2 特征缩放

1）示例

示例：购房问题中， x 1 x_1 x1​表示房屋尺寸， x 2 x_2 x2​表示卧室数量

在这里插入图片描述

没经过特征缩放的效果：

在这里插入图片描述

等高线细长可能导致梯度下降时回来会横跳很长时间。

经过特征缩放的效果：

在这里插入图片描述

2）特征缩放的实现

在这里插入图片描述

3）均值归一化

可能会出现负值

首先找到平均值，也称训练集上的均值，用μ表示

分子： x − μ x-μ x−μ，分母： m a x − m i n max-min max−min

在这里插入图片描述

4）Z-score归一化

计算每个特征的标准差σ和平均值μ
在这里插入图片描述
在这里插入图片描述

3.3 梯度下降收敛判断

看学习曲线可以发现，300次迭代时的效果和后面的差不多，意味着梯度下降或多或少收敛了，因为曲线不再下降。

在这里插入图片描述

也可以通过自动收敛测试判断，但是正确的阈值ε的值不好确定。

3.4 学习率设置

验证是否有bug：将 α α α设置为一个非常小的数字，看看是否会导致成本降低。如果 α α α很小但是成本有时增加，则表示代码中存在错误。

在这里插入图片描述在这里插入图片描述

3.5 特征工程

设计新的特征，通过转换或组合问题的原始特征来使学习算法更容易做出准确地预测。

在这里插入图片描述

3.6 多项式回归

特征工程很重要，不然出现高次幂就指数爆炸了。

在这里插入图片描述在这里插入图片描述

Machine Learning - Coursera 吴恩达机器学习教程 Week1 学习笔记
zhang35的博客
02-01 1292
机器学习的定义 Arthur Samuel 传统定义 Arthur Samuel: “the field of study that gives computers the ability to learn without being explicitly programmed.” This is an older, informal definition. 让计算机无需明确编程，就有学习能力。 Tom Mitchell 现代定义 Tom Mitchell: “A computer program is s
Machine Learning - Coursera 吴恩达机器学习教程 Week4 学习笔记
zhang35的博客
02-04 1300
背景 当目标函数非线性时（比如下图明显需要一条曲线），就需要增加高次项来获得曲线，当特征数量比较多时，增加高次项会使特征数量爆炸式增长。 比如图像识别问题，对50 * 50像素的图像，如果将每个像素作为特征，增加二次特征就会产生约3 * 10 ^ 6个特征（C22500 = 2500 * 2499 / 2） 这种情况下，若要使用普通逻辑回归学习所有特征，计算量就过大了。 此时用神经网络学习这种复杂的非线性假设函数，就比较合适了。 神经网络 首先学习几个术语： dendrite: 树突（输入） cell
【吴恩达 Machine Learning】 第一课 Week 1 学习笔记
weixin_47279003的博客
06-27 389
有监督学习，无监督学习，线性回归，梯度下降。
【吴恩达 Machine Learning】 第三课 Week 1 学习笔记
weixin_47279003的博客
07-06 101
无监督学习，聚类算法，K-means，异常事件检测。
【吴恩达 Machine Learning】 第三课 Week 2 学习笔记
weixin_47279003的博客
07-12 355
推荐系统，协同过滤算法，基于内容的过滤，深度学习方法，推荐系统的伦理问题，降低特征数量，PCA算法。
[Machinie Learning] 吴恩达机器学习课程笔记——Week2
qq_52883908的博客
12-10 336
吴恩达机器学｜机器学习｜Machine Learning｜AI
【吴恩达 Machine Learning】 第二课 Week 2 学习笔记
weixin_47279003的博客
07-01 89
线性激活函数，ReLU函数，激活函数的选择，多分类问题，Softmax函数，Adam算法，输出层，隐藏层，卷积层
【吴恩达 Machine Learning】 第一课 Week 3 学习笔记
weixin_47279003的博客
06-29 371
逻辑回归，过拟合，正则化
【吴恩达 Machine Learning】 第三课 Week 3 学习笔记
weixin_47279003的博客
07-12 411
强化学习，马尔可夫决策过程，贝尔曼方程，ε-贪婪算法，小批量和软更新。
coursera Machine Learning--吴恩达--week2 学习笔记
yyxyuxueYang的博客
08-10 377
1多变量线性回归 （对比单变量线性回归） 1.1多变量假设：输入为多维特征。 1.2拟合函数： 这里令x0 = 1，将变量向量化，向量化的过程如下： 1.3 损失函数和梯度下降 对比单变量，损失函数知识参数变多： 梯度下降法也没有变，只是需要同时更新的参数变多： - 参数变多，加之样本数量变多，原来的批梯度下降收敛速度慢，改进方式为：随机梯度下降 ...
【吴恩达 Machine Learning】 第二课 Week 3 学习笔记
weixin_47279003的博客
07-04 326
模型评估，偏差，方差，正则化，baseline，数据增强，迁移学习，准确率，召回率，F1-score。
Machine Learning - Coursera 吴恩达机器学习教程 Week8 学习笔记（Unsupervised Learning）
zhang35的博客
02-14 1131
无监督学习 本周课程开始进入无监督学习。 一个重要应用是聚类问题： K-Means算法 随机找K个中心点（红×和蓝×），将样本标记为最近的中心点： 计算每个类别里样本的平均值（mean），作为新的中心点： 循环执行上面两个步骤，直到中心点不再变化，得到聚类结果： 算法伪代码如下： 注意：有可能出现某个类别中没有点的情况，这时通常就删掉这个中心点，就变成了k-1个类别。（如果还是需要k个类别，可以再重新随机出一个中心点） K-means优化目标 这里的J也被称为Distortion函数。 目标就是找
Machine Learning - Coursera 吴恩达机器学习教程 Week2 学习笔记
zhang35的博客
02-02 1619
多维特征（Multiple Features） 多元线性回归，即包含多个变量，比如房子的房龄、面积、房间数等，标记如下： 假设函数就变成了： 可以理解为： θ0表示基础价格 θ1为每平方价格，X1为平米数 θ2为每层价格，X2为层数 假设函数简写为： 梯度下降就变成了： 左图是之前单变量时的梯度下降，右图是多变量的梯度下降，二者对比如下： 特征值预处理 当几个特征的量级相差过大时，会出现左图的情况，收敛路径复杂且缓慢； 最好将特征都缩放到接近[-1, 1]，就能像右图一样收敛形成圆润的等高线，加快
Machine Learning - Coursera 吴恩达机器学习教程 Week10 学习笔记（Learning With Large Datasets）
zhang35的博客
02-24 1106
sanity check 大数据量带来高计算代价，所以首先得确定，是不是大数据量有帮助？ 检查Jcv 和 Jtrain 的学习曲线。 如果如左图，有高方差，则说明过拟合了，增加数据量有帮助； 如果如右图，增加数据量没有太大帮助。 随机梯度下降法（Stochastic Gradient Descent） 普通的梯度下降，当m很大时，下面蓝色方框的计算会耗时很高。 普通的梯度下降，又称为batch gradient descent，每次都需要读取所有数据。 这里就引出了随机梯度下降法。 ...
【机器学习】数学知识：对数
IT古董
11-12 722
对数是数学中一种重要的运算，它与指数密切相关。对数的主要功能是将乘法和除法转换为加法和减法，从而简化复杂的计算。以下是对数的基本概念、性质和应用。
【机器学习】数学知识：欧式距离（Euclidean Distance）和曼哈顿距离（Manhattan Distance）
最新发布
IT古董
11-15 794
欧式距离和曼哈顿距离是两种常用的距离度量方法，用于衡量两点之间的相似性或差异性。它们在几何分析、数据挖掘、机器学习等领域有广泛应用。欧式距离（Euclidean Distance）是最常见的直线距离度量方法，源于欧几里得几何学。它表示两点之间的直线距离，类似于二维或三维空间中两点间的最短路径。曼哈顿距离（Manhattan Distance）也称为“城市街区距离”或“L1 距离”，表示两点之间的路径长度，假设只能沿水平和垂直方向移动，类似于网格状街道上的步行距离。
【机器学习】数学知识：二项式定理
IT古董
11-12 365
二项式定理是一个重要的数学定理，它描述了一个二项式的 n次幂的展开形式。
从0开始学习机器学习--Day22--优化总结以及误差作业（上）
Chef_Chen的博客
11-12 336
假如我们有这样一个学习问题：我需要在{to,too,two}中选出一个填入以下句子：For breakfast, I ate __eggs.在这种问题中，句子的信息越多，算法越有可能得到答案，也就是说训练集数据额定增大是有益的。在房价问题中，假如我们只给了房屋面积的大小以及价格，单纯只靠这个预测到真实的价格的难度是很大的，毕竟还需要考虑所处位置的地价。其实，这类问题概括起来，只要解决了偏差和方差的问题就可以了，那么我们要做的就是让算法的参数尽可能地多的同时，再增加训练集的数量，这样，，这样我们就可以保证。
机器学习—Additional Layer Types
yn3535_的博客
11-12 364
如果你在神经网络中有多个卷积层，有时这叫卷积神经网络，为了说明卷积层，使用一维图像输入而不是二维，使用EKG，所以如果你在胸口放两个电极，你将记录如下所示的电压，与你的心跳相对应，实际上是在读取心电图信号，这些信号看起来像这样，试图诊断，如果病人有心脏问题，所以心电图信号有一个数字列表，对应于这个表面的高度，在不同的时间点，所以可能会有100个数字对应于这条曲线的高度，在100个不同的时间点，给出这个时间序列的学习任务，给这个心电图信号来分类，说这个病人是否有心脏病或一些可诊断的心脏病，以下是。
深度学习精要：吴恩达Machine Learning Yearning实战指南
"Machine Learning Yearning 是一本由吴恩达（Andrew Ng）编写的关于深度学习实践的书籍，它总结了吴老师在机器学习领域多年的经验，尤其针对深度学习的实战技巧提供了宝贵的指导。这本书旨在帮助读者更好地理解和...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值