![](https://img-blog.csdnimg.cn/20190927151117521.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
吴恩达机器学习课程
文章平均质量分 96
这个专栏是本人在学习吴恩达老师的机器学习课程中做的笔记,主要归纳我的个人理解方便复习
宋瑞梁
本人写的专栏营养价值不高,仅仅是为了记录个人学习过程顺便帮助理解消化,难免出现错误,评论区指正我有空会修改
展开
-
【深度学习】误差判定
本章概念较多,主要是方差偏差与训练误差,验证误差的关系,与过拟合欠拟合的关系,注意梳理,融会贯通,就能较好地理解方差和偏差与拟合函数的关系。原创 2023-02-20 00:02:52 · 356 阅读 · 0 评论 -
【深度学习】模型评估
在整个神经网络模型的选择上我们也是这样测试的,例如这三个模型的隐藏层,我们计算得到二号模型的参数对应的验证误差较小,那么我们就可以使用第二个神经网络训练的参数,如果想要得到泛化误差的估计值,我们就可以用这个参数带入计算测试误差。较低,代表了训练误差低,这是必然的,因为我们是基于训练集的数据来最小化代价函数进行参数选择的,因此拟合出来的函数的训练误差一定是较小的。那么假如,我们按照刚才的模型评估的步骤来建立一个拟合函数,我们首先通过训练集的数据的正则化最小化代价函数,找到了合适的。原创 2023-02-18 18:35:36 · 528 阅读 · 0 评论 -
【深度学习】多分类问题和多标签分类问题
在之前的课程中,我们学习了二分问题,二分问题中的所有数据会被分类为0和1(或者Ture和False)两种输出标签。但是在大多数情况下,分类问题的输出远远不止两种情况,例如之前在课程中举例的肿瘤问题,肿瘤被分为良性和恶性两种,但实际上会有更多的分类情况,它有可能是A型,B型,C型…我们将这种拥有2种以上输出标签的问题称为多分类问题。虽然输出y依旧只能取值有限的离散值,但是输出标签的种类将会有两个以上。原创 2023-02-17 18:30:20 · 4392 阅读 · 2 评论 -
【深度学习】激活函数
新课P54介绍了强人工智能概念,P55到P58解读了矩阵乘法在代码中的应用,P59,P60介绍了在Tensflow中实现神经网络的代码及细节,详细的内容可以自行观看,专栏中就不再赘述。原创 2023-02-16 16:58:50 · 551 阅读 · 0 评论 -
【深度学习】认识神经网络
从本章开始我们将学习深度学习的内容:包括神经网络和决策树等高级算法。原创 2023-02-12 19:46:46 · 1138 阅读 · 1 评论 -
【机器学习】过拟合与正则化
让我们看看上图的例子,左边是二次项拟合,右边是四次项拟合,对比两种拟合方式显然二次项是更加适合的。但是如果要求选取四个特征,我们的做法就是用正则化来处理。假设当x取1000,让我们求出参数系数w1wn和bw_1...w_n和bw1...wn和b,你应该没有忘记需要用到最小二乘法构造的代价函数来求(在前几章中参数系数被称为θiθ_iθi注意我们在图中框出的公式,红色部分是二次项拟合的代价函数,而红框+蓝框是右边四次项拟合的代价函数,蓝框是对比之下多出来的部分。原创 2023-02-09 23:39:07 · 579 阅读 · 0 评论 -
【机器学习】逻辑回归
假设我们在右边很远的地方再加一个恶性样本,那么为了得到最佳拟合曲线,肯定要调整假设函数,那么此时阈值0.5所对应的位置就处于绿点处,那么我们再看,以上图中从左往右第一个红叉为例,在未添加新样本时,这个红叉我们认为它是恶性的;我们知道线性回归的目的并不是预测结果值是0,还是1这样的离散值,线性回归是为了预测连续值的输出,其结果不一定是”0“或”1“,而是[0,1]区间上乃至区间外的所有数,而分类问题的结果只有“0”和“1”。对比线性回归的代价函数,明显线性回归的代价函数是一个凸函数,而线性回归则是非凸函数。原创 2023-02-07 22:04:47 · 604 阅读 · 0 评论 -
【机器学习】正规方程
虽然二次函数看起来比三次函数更加拟合,但是如果选择二次函数就会发现一个问题:这个二次函数是开口向下的,也就是说接下来它的price将会往下走,而这是不可能的,因为横轴代表的是房子的大小,不可能会出现房子越大,价格越低的情况,因此我们不能用二次函数来拟合。图中有两条曲线:一条是二次函数的蓝线,一条是三次函数的绿线,根据现在给出的数据来看,二者的拟合程度是差不多的,那么我们应该选择几次项来拟合呢?因此,即使面对同样的特征,也可以得到不同的方案,这取决于你看待问题的角度,选择合适的方法可以得到更好的模型。原创 2023-02-06 00:09:49 · 186 阅读 · 0 评论 -
【机器学习】监督学习与无监督学习
机器学习的定义很多,我认为用吴恩达老师视频中的这段话来概括就很合适计算机程序从经验"E" 中学习,解决某一任务"P" ,进行某一性能度量"P" ,并能通过经验"E" 来提高"P" 在任务"T" 上的表现。简单来说机器学习的目的就是从经验E中不断提高完成任务T的效率P综上所述,我们简单总结一下二者的特点:监督学习:我们希望通过程序得到某个正确的结果,程序会知道怎样做是对的,怎样做是不对的,以此来进行修正。无监督学习:我们只是给出一个数据集,并不会告诉程序应当怎样做,程序则需要自行判断数据的特征。原创 2023-02-04 16:39:35 · 248 阅读 · 0 评论 -
【机器学习】梯度下降
在上一章中我们介绍了代价函数,然而之前举出的例子都是形状简单的图形,如果我们碰到了一些形状复杂的图像,比如下图这个,我们又该如何找到最低点呢?整个图形看起来就像是一座山,想象一下,你从山上某点打算到达山的最低点,那么不可能一下子直接跳到最低点,一定是一步一步从山顶走到山腰,再走到山脚,最后到达最低点的。并且我们想尽快地走下山,下山的步伐既不能太快,也不能太慢。但是还有一个问题,你的确是到达"最低点"了,已经在山脚下无法再下山了,问题是你所在的最低点真的是最低点吗?原创 2023-02-04 22:25:32 · 260 阅读 · 0 评论 -
【机器学习】线性回归与代价函数
上一章——监督学习与无监督学习回到上一章的第一个例子,依旧是卖房子所有的数据点都拥有Price和Size两个属性/特征,我们根据它的属性制作了一个数据表我们将上面这些数据的集合称之为数据集,而若用它来进行机器学习训练便称其为训练集而机器学习的目的就是通过给出的训练集来学习如何预测房价其中m代表训练集的数据量x代表训练集的输入的特征y代表训练集的输出的目标变量用(x(i),y(i))x^{(i)},y^{(i)})x(i),y(i))来表示对应的元素,其中i为行索引标号如(x(1),y(原创 2023-02-04 21:20:55 · 375 阅读 · 0 评论 -
【机器学习】多元梯度下降法
(本文略过了原课程中线性代数部分内容,如果你不理解线性代数,那你应当先去学习线性代数相关知识)原创 2023-02-05 16:51:31 · 270 阅读 · 0 评论