![](https://img-blog.csdnimg.cn/20201014180756754.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
吴恩达机器学习笔记
文章平均质量分 91
吴恩达机器学习笔记
slight smile
这个作者很懒,什么都没留下…
展开
-
吴恩达《机器学习》学习笔记十四——应用机器学习的建议实现一个机器学习模型的改进
吴恩达《机器学习》学习笔记十四——应用机器学习的建议实现一个机器学习模型的改进一、任务介绍二、代码实现1.准备数据2.代价函数3.梯度计算4.带有正则化的代价函数和梯度计算5.拟合数据6.创建多项式特征7.准备多项式回归数据8.绘制学习曲线????=0????=1????=1009.找到最佳的 ????前几次笔记介绍了具体实现一个机器学习模型的时候应该如何操作,首先是快速实现一个较为简单的模型,然后通过绘制学习曲线去判断目前的模型存在什么问题,分析应该如何改进,这次笔记就将实现这一整个过程。数据集:ht原创 2020-08-03 21:06:14 · 215 阅读 · 0 评论 -
吴恩达《机器学习》学习笔记十三——机器学习系统(补充)
这次笔记是对笔记十二的补充,之前讨论了评价指标,这次主要是补充机器学习系统设计中另一个重要的方面,用来训练的数据有多少的问题。之前曾说过不要盲目地开始花费大量的时间来收集大量的数据,因为大量的数据只在一些情况下对改善系统性能起作用。但事实证明,在一定条件下,得到大量的数据并在某种类型的学习算法中进行训练,可以是一种有效的方法来获得一个具有良好性能的学习算法,而这种情况往往出现在这些条件对于你的问题都成立,并且你能够得到大量数据的情况下,这可以是一个很好的方式来获得非常高性能的学习算法。先来看一个例子理解原创 2020-07-27 12:26:25 · 116 阅读 · 0 评论 -
吴恩达《机器学习》学习笔记十二——机器学习系统
吴恩达《机器学习》学习笔记十二——机器学习系统一、设计机器学习系统的思想1.快速实现+绘制学习曲线——寻找重点优化的方向2.误差分析3.数值估计二、偏斜类问题(类别不均衡)三、查准率P与召回率R——代替准确率的评估指标四、查准率与召回率的权衡——F1-Score上次笔记主要介绍评估机器学习模型的方法,从偏差、方差来分析模型可能拥有的问题,从而应该采取什么相应的措施。介绍了偏差、方差与欠拟合、过拟合之间的关系,以及正则化对偏差、方差的影响,还介绍了一些曲线图帮助分析,这些都是实践中很重要的建议,相比毫无目的原创 2020-07-26 23:48:51 · 209 阅读 · 0 评论 -
吴恩达《机器学习》学习笔记十一——应用机器学习的建议
吴恩达《机器学习》学习笔记十一——应用机器学习的建议一、训练完模型后下一步要做什么二、评估算法与模型选择1.训练集与测试集2.训练/测试步骤3.模型选择4.数据集新的划分——验证集的加入三、偏差与方差1.偏差与方差的理解2.正则化和偏差方差的关系3.学习曲线四、决定接下来要做什么经过前十次笔记的学习,已经掌握了线性回归、逻辑回归和神经网络三种经典的机器学习算法,并学会了使用正则化来防止过拟合。下面将跳出具体的算法,学习对机器学习模型的评估以及应用过程中优化的一些建议。一、训练完模型后下一步要做什么在设原创 2020-07-22 23:18:23 · 348 阅读 · 0 评论 -
吴恩达《机器学习》学习笔记十一——神经网络代码
吴恩达《机器学习》学习笔记十一——神经网络代码数据准备神经网络结构与代价函数·初始化设置反向传播算法训练网络与验证课程链接:https://www.bilibili.com/video/BV164411b7dx?from=search&seid=5329376196520099118数据集链接:https://pan.baidu.com/s/1ZkB_RW9ehEV_w6ryZT64Ag提取码:8utg这次笔记,我们将再次处理手写数字数据集,第八次笔记是使用的多分类逻辑回归算法,这次使用反向原创 2020-07-20 17:11:34 · 694 阅读 · 1 评论 -
吴恩达《机器学习》学习笔记十——神经网络相关(2)
吴恩达《机器学习》学习笔记十——神经网络相关(2)一、 代价函数二、 反向传播算法三、 理解反向传播算法四、 梯度检测五、 随机初始化1.全部初始化为0的问题2.随机初始化的思想六、 神经网络算法整体流程1.选择网络具体架构2.训练神经网络课程链接:https://www.bilibili.com/video/BV164411b7dx?from=search&seid=5329376196520099118上次笔记从非线性假设的问题引入,强调了通过特征映射使线性回归、逻辑回归模型解决非线性问题是原创 2020-07-15 16:56:03 · 522 阅读 · 0 评论 -
吴恩达《机器学习》学习笔记八——逻辑回归(多分类)代码
吴恩达《机器学习》笔记九——逻辑回归(多分类)代码导入模块及加载数据sigmoid函数与假设函数代价函数梯度下降一对多分类预测验证之前笔记七里介绍了二分类问题的逻辑回归代码,涉及到了线性与非线性假设,是否使用正则化等问题,这次做一个推广,用逻辑回归来解决一个多分类问题,手写数字识别,这个问题如今更多在深度学习里使用神经网络来解决。导入模块及加载数据import numpy as npimport pandas as pdimport matplotlib.pyplot as pltfrom sc原创 2020-07-14 16:36:30 · 1230 阅读 · 0 评论 -
吴恩达《机器学习》学习笔记九——神经网络相关(1)
吴恩达《机器学习》学习笔记八——神经网络相关(1)一、 非线性假设的问题二、 神经网络相关知识1.神经网络的大致历史2.神经网络的表示3.前向传播:向量化表示三、 例子与直觉理解1.问题描述:异或XOR、同或XNOR2.单个神经元如何计算逻辑函数:以AND、OR为例3.多层神经网络计算复杂函数四、 神经网络实现多分类之前都没有给课程链接,其实这个也很好找,这里提供一下:b站吴恩达机器学习课程视频前面的几次笔记,较详细地学习了机器学习里有监督学习的两个最具代表性的模型,分别是解决回归问题的线性回归以及解决原创 2020-07-13 16:36:19 · 289 阅读 · 1 评论 -
吴恩达《机器学习》学习笔记七——逻辑回归(二分类)代码
吴恩达《机器学习》学习笔记七——逻辑回归代码一、无正则项的逻辑回归1.问题描述2.导入模块3.准备数据4.假设函数5.代价函数6.梯度下降7.拟合参数8.用训练集预测和验证9.寻找决策边界二、正则化逻辑回归1.准备数据2.特征映射3.正则化代价函数4.正则化梯度5.拟合参数6.预测7.画出决策边界这次的笔记紧接着上两次对逻辑回归模型和正则化笔记,将一个分类问题用逻辑回归和正则化的方法解决。机器学习在我看来,理论和代码需要两手抓,即使理论搞懂,代码也将是又一个门槛,所以多多尝试。一、无正则项的逻辑回归1原创 2020-07-12 15:04:22 · 461 阅读 · 0 评论 -
吴恩达《机器学习》学习笔记六——过拟合与正则化
吴恩达《机器学习》学习笔记六——过拟合与正则化一、 过拟合问题1.线性回归过拟合问题2.逻辑回归过拟合问题3.过拟合的解决二、 正则化后的代价函数1.正则化思想2.实际使用的正则化三、 正则化的线性回归1.梯度下降的情况2.正规方程的情况四、 正则化的逻辑回归1.梯度下降的情况2.高级优化算法的情况上一个笔记介绍了第二个机器学习算法——逻辑回归,主要用于解决分类问题,应用非常广泛。这一次我们学习一下过拟合和正则化的概念,并将正则化技术运用到已学的线性回归和逻辑回归模型上,来减小过拟合的问题。一、 过拟合原创 2020-07-10 15:44:39 · 337 阅读 · 0 评论 -
吴恩达《机器学习》学习笔记五——逻辑回归
吴恩达《机器学习》学习笔记五——逻辑回归一、 分类(classification)1.定义2.阈值二、 逻辑(logistic)回归假设函数1.假设的表达式2.假设表达式的意义3.决策界限三、 代价函数1.平方误差函数的问题2.logistic回归的代价函数四、梯度下降法求参数五、多分类问题1.介绍2.“一对多”算法解决多分类问题前四次笔记算是通过线性回归模型来对机器学习进行了一个入门,下面开始学习第二个模型:逻辑回归,虽带有回归字样,但这却是一个分类算法,从最简单的二分类问题开始。逻辑回归的应用场景更多原创 2020-07-09 15:13:40 · 410 阅读 · 0 评论 -
吴恩达《机器学习》学习笔记四——单变量线性回归(梯度下降法)代码
吴恩达《机器学习》学习笔记四——单变量线性回归(梯度下降法)代码一、问题介绍二、解决过程及代码讲解三、函数解释1. pandas.read_csv()函数2. DataFrame.head()函数3. Dataframe.insert()函数之前介绍了吴恩达机器学习课程的第一个算法——线性回归,又可以分为一元和多元,优化参数的方法包含梯度下降和正规方程两种。今天用python来完成一下相关的练习,虽然吴恩达推荐使用Octave,但是用python上手个人感觉更通用。一元的代码掌握后推广到多元很简单,而且梯原创 2020-07-07 16:10:05 · 740 阅读 · 2 评论 -
吴恩达《机器学习》学习笔记三——多变量线性回归
吴恩达《机器学习》学习笔记三——多元线性回归一、 多元线性回归问题介绍1.一些定义2.假设函数二、 多元梯度下降法1. 梯度下降法实用技巧:特征缩放2. 梯度下降法的学习率三、 特征选择与多项式回归四、 正规方程法1. 一些定义2. 正规方程解的公式3. 梯度下降法和正规方程法的比较4. 正规方程法在矩阵不可逆的情况下的解决上一个笔记介绍了单输入变量(一元)线性回归问题,即只考虑了一个属性对房价的影响,但很多时候会有多个因素对输出产生影响,所以这次笔记主要针对多元线性回归问题,是对笔记二的推广。一、 多原创 2020-07-05 21:06:02 · 379 阅读 · 0 评论 -
吴恩达《机器学习》学习笔记二——单变量线性回归
吴恩达《机器学习》学习笔记二——线性回归一、 模型描述二、 代价函数1.代价函数和目标函数的引出2.代价函数的理解(单变量)3.代价函数的理解(两个参数)三、 梯度下降——求解最优参数1.梯度下降的步骤2.梯度下降的数学表达四、 用梯度下降法求解的线性回归第二次笔记主要针对机器学习第一个模型——线性回归,首先给出模型的描述,理清楚各个变量都是什么含义;然后介绍代价函数以及目标函数,并详细生动地解释了参数优化的过程,也就是梯度下降方法。一、 模型描述首先回顾一下笔记一的房价预测模型,这是监督学习里回归问原创 2020-07-04 23:00:14 · 257 阅读 · 0 评论 -
吴恩达《机器学习》学习笔记一——初识机器学习
吴恩达《机器学习》学习笔记一一、 什么是机器学习?监督学习无监督学习初识机器学习这是个人学习吴恩达《机器学习》课程的一些笔记,供自己和大家学习提升。第一篇内容较少,日后继续加油。一、 什么是机器学习?机器学习一直没有一个官方固定的定义。但课中给出了两种解释,个人认为非常经典,易于理解。定义一:Field of study that gives computers the ability to learn without being explicitly programmed.—— Arthur S原创 2020-07-04 09:32:40 · 266 阅读 · 0 评论