![](https://img-blog.csdnimg.cn/20201014180756757.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
吴恩达深度学习
文章平均质量分 82
念~旭
这个作者很懒,什么都没留下…
展开
-
深度学习 day12卷积神经网络
01 计算机视觉即使你在计算机视觉方面没有做出成果,希望你可以将所学的知识应用到其他算法和结构计算机视觉的一些例子:图片识别(给出一张图片让计算机去分辨出这是一只猫)、目标检测(首先算出有哪些物体,然后用一些技术识别出他们在图片的位置)、图片风格迁移(就是你有一张满意的图片和一张风格图,你可以用神经网络将他们融合在一起,描绘出一张新的图片,整体轮廓来自左边,风格却是右边的)。在应用计算机视觉还有一个很大的挑战就是数据的输入可能会非常大,例如像素是1000×1000的,那么输入的数据就是三百万原创 2021-08-20 23:42:29 · 323 阅读 · 0 评论 -
深度学习 day11机器学习(ML)策略
01 进行误差分析人工检查你的算法错误,也许可以让你了解接下来应该做什么,这个过程就叫误差分析同样是一个猫分类器,但是它的准确度只有90%,它会将一些狗的图片识别成猫,如果花费几个月的时间来开发专门研究狗的项目,那是大可不必,因为可能取不到效果。所以我们推荐使用误差分析:我们自己手动的观察100个错误标记的开发集例子,如果只有其中5个是狗的图片,那么就算把识别狗做的很好,误差也高达9.5%,如果其中有50个是狗的图片,这时我们在对识别狗进行完善就可以将误差减半到5%。有时在做误差分析时,也原创 2021-08-19 09:11:46 · 279 阅读 · 0 评论 -
深度学习 day10机器学习(ML)策略
01 为什么是ML策略当你尝试优化一个深度学习系统时,通常有很多想法可以去试。一些策略或者一些分析机器学习问题的方法可以指引你朝着最有希望的方向前进。[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-oGG1FN4m-1629041544814)(C:\Users\1\AppData\Roaming\Typora\typora-user-images\image-20210814092245145.png)]02 正交化搭建机器学习系统的挑战之一是可以尝试和改变的东西原创 2021-08-16 06:54:24 · 408 阅读 · 0 评论 -
深度学习 day09超参数调试、Batch 正则化和程序框架
01 调试处理系统地组织超参调试过程的技巧学习速率是需要调试的最重要的超参数(红色),其次是momentum、mini-batch的大小及隐藏单元(黄色),重要性拍第三位的就是层数、学习率衰减、Adam算法(其余都是)如果要调整一些超参数,该如何选择调试值呢?在早一代的机器学习算法中(左图),如果有两个超参数,常见的作法是在网格中取样点,然后系统的研究这些数值,然后选择哪个参数效果最好。(参数的数量相对较少时)在深度学习领域中(右图)推荐下面做法:随机选择点,然后用随机取的点试验超参数原创 2021-08-13 23:53:50 · 201 阅读 · 0 评论 -
改善深层神经网络:超参数调试、正则化以及优化第二周检测
答案见下方1.当输入从第8个mini-batch的第7个的例子的时候,你会用哪种符号表示第3层的激活?A.a^ [3]{8}(7)B.a^ [8]{7}(3)C.a^ [8]{3}(7)D.a^ [3]{7}(8)2. 关于mini-batch的说法哪个是正确的?A.mini-batch迭代一次(计算1个mini-batch),要比批量梯度下降迭代一次快B.用mini-batch训练完整个数据集一次,要比批量梯度下降训练完整个数据集一次快C.在不同的mini-batch下,不需要显式地进原创 2021-08-10 21:13:38 · 640 阅读 · 0 评论 -
改善深层神经网络:超参数调试、正则化以及优化第一周检测
答案见下方1.如果你有10,000,000个例子,你会如何划分训练/开发/测试集?A.33%训练,33%开发,33%测试B.60%训练,20%开发,20%测试C.98%训练,1%开发,1%测试2.开发和测试集应该:A.来自同一分布B.来自不同分布C.完全相同(一样的(x, y)对)D.数据数量应该相同3.如果你的神经网络方差很高,下列哪个尝试是可能解决问题的?A.添加正则项B.获取更多测试数据C.增加每个隐藏层的神经元数量D.用更深的神经网络E.用更多的训练数据4.你正在为原创 2021-08-10 17:37:24 · 715 阅读 · 0 评论 -
深度学习 day07 08优化算法
01 Mini-batch 梯度下降法X代表训练样本的集合,向量化能够相对较快地处理所有m个样本,但是如果m过大,处理速度仍然缓慢。在对整个训练集执行梯度下降法时,原本是需要处理完所有样本,才能进行一步梯度下降法,然后再重新处理所有样本,才能进行下一步梯度下降,但是如果在处理完所有样本之前,先让梯度下降法处理一部分,那么算法速度将会更快。因此我们可以将训练集分割为小一点地子集(子集就叫Mini-batch ),我们用X^ {t}代表第t个子集,当然Y也需要分割。在使用Mini-batch 梯度下原创 2021-08-09 21:34:16 · 698 阅读 · 0 评论 -
深度学习 day06深度学习的实用层面
01 训练 / 开发 / 测试集应用型机器学习是一个高度迭代的过程(想法->代码->实现),循环该过程的效率是决定项目进展速度的一个关键因素,创建高质量的训练集、验证集、测试集也有助于提高循环效率。随着数据量的不断增加(从1000个样本到1000000个样本),那么验证集和测试集占数据总量的比例会趋向于变得更小。如果数据有一百万,那么就可以选择一万条作验证集,一万条作测试集。因为验证集的目的就是验证不同的算法,检验哪种算法最有效,同样的根据最终选择的分类器,测试集的主要目的是正确评估原创 2021-08-08 22:07:11 · 135 阅读 · 0 评论 -
神经网络和深度学习第四周检测
答案见下方1.在实现前向传播和反向传播中使用的“cache”是什么?A. 用于在训练期间缓存成本函数的中间值。B. 我们用它传递前向传播中计算的变量到相应的反向传播步骤,它包含用于计算导数的反向传播的有用值。C. 它用于跟踪我们正在搜索的超参数,以加速计算。D. 我们使用它将向后传播计算的变量传递给相应的正向传播步骤,它包含用于计算计算激活的正向传播的有用值。2.以下哪些是“超参数”?A. 隐藏层的大小n^ [l]B. 学习率αC. 迭代次数D. 神经网络中的层数L3.下列哪个说法是转载 2021-08-03 22:45:19 · 432 阅读 · 0 评论 -
深度学习 day05深层神经网络
01 深度神经网络L代表的深度神经网络的层数,n^ [l]代表的是l层有多少个节点,a^ [l]代表l层的激活函数,w^ [l]表示在a^ [l]中计算z^ [l]值的权重。02 深层网络中的前向传播在深层网络中应用前向传播,图中左侧是针对单个样本的,左侧最后一行a的上标应该是3;右上角就是前向传播的总结公式,右下角是用向量化的方法训练整个训练集。在我们实现前向传播时用for循环,没有比它更好的方法,可以计算1到L层的激活函数。03 核对矩阵的维度图的右上角的公式可以帮助检查w和b的原创 2021-08-03 15:24:30 · 445 阅读 · 0 评论 -
神经网络和深度学习第三周检测
答案见下方1.以下哪一项是正确的?A. X是一个矩阵,其中每个列都是一个训练示例。B. a^ [2]_4 是第二层第四层神经元的激活的输出。C. a^ [2] (12)表示第二层的第12个样本的激活向量。D. a^ [2] 表示第二层的激活向量。2.tanh激活函数通常比隐藏层单元的sigmoid激活函数效果更好,因为其输出的平均值更接近于零,因此它将数据集中在下一层是更好的选择,请问正确吗?A. TrueB. False3.其中哪一个是第l层向前传播的正确向量化实现,其中1≤ l ≤L转载 2021-08-02 22:22:29 · 588 阅读 · 0 评论 -
深度学习 day04浅层神经网络
01 神经网络概览在这里用[ l ]来表示神经网络的第l层,用来跟( i )表示的第几个训练样本做区分。神经网络需要反复的计算z和a。02 神经网络表示只有一个隐藏层的神经网络:分为输入层、隐藏层、输出层。其中输入层和输出层的值都是在训练集中能看到的,隐藏层的值不能看到。在计算神经网络层数时是不算输入层的,同时我们使用a1表示符号,a也代表激活的意思,它意味着网络中不同层的值会传递给后面的层,即每一层都会产生激活值,我们将这些激活值用a2_i表示(l表示第几层,下标i表示层中的第几个节点)。在原创 2021-08-02 21:00:55 · 605 阅读 · 0 评论 -
神经网络和深度学习第二周检测
答案看最下方1.神经元节点计算什么?A. 神经元节点先计算激活函数,再计算线性函数(z = Wx + b)B. 神经元节点先计算线性函数(z = Wx + b),再计算激活。C. 神经元节点计算函数g,函数g计算(Wx + b)。D. 在 将输出应用于激活函数之前,神经元节点计算所有特征的平均值2.Logistic损失函数表达式的形式?答:3.假设img是一个(32,32,3)数组,具有3个颜色通道:红色、绿色和蓝色的32x32像素的图像。 如何将其重新转换为列向量?代码答:4.看一下转载 2021-08-01 10:13:09 · 350 阅读 · 0 评论 -
神经网络和深度学习第一周检测
答案见最下方1.和“AI是新电力”相类似的说法是什么?A: AI为我们的家庭和办公室的个人设备供电,类似于电力。B: 通过“智能电网”,AI提供新的电能。C: AI在计算机上运行,并由电力驱动,但是它正在让以前的计算机不能做的事情变为可能。D: 就像100年前产生电能一样,AI正在改变很多的行业。2.哪些是深度学习快速发展的原因? (两个选项)A: 现在我们有了更好更快的计算能力。B: 神经网络是一个全新的领域。C: 我们现在可以获得更多的数据。D: 深度学习已经取得了重大的进展,比如转载 2021-07-31 23:27:34 · 195 阅读 · 0 评论 -
深度学习 day02 03神经网络基础
01 二分分类逻辑回归是一个用于二分分类的算法计算机保存一张图片就需要保存三个独立矩阵,分别对应图片中的红、绿、蓝三个颜色通道,如果照片是64×64像素的就有三个64×64的矩阵。然后需要将这三个矩阵所有元素都存放在特征x向量中(x向量就是64×64×3=12288维)。输入X用矩阵表示:python中用来输出矩阵的维度代码是X.shape=(n,m),表示X是一个n×m的矩阵。02 逻辑回归当你实现逻辑回归时,你要做的就是学习参数w和b。因为要求输出y帽是在0到1之间,所以我们将输入原创 2021-07-30 23:42:19 · 1035 阅读 · 5 评论 -
深度学习 day01深度学习概论
01 什么是神经网络深度学习指的是训练神经网络ReLU(修正线性单元)函数:修正指的是取不小于0的值。下图就是根据这个函数画的单神经元网络。下面是有更多特征时的神经网络:神经网络的一部分神奇之处在于不管训练集多大,只要输入x就能得到输出y,所有的中间过程都是自己完成的。神经网络你自己决定中间这个节点是什么,我们只给你四个输入特征随便你怎么计算,因此在神经网络中,输入层在中间层连接数是很高的。02 用神经网络进行监督学习下面是神经网络创造价值的一些案例:对于图像领域一般使用CNN(卷原创 2021-07-29 16:05:08 · 127 阅读 · 0 评论