深度学习笔记
吴恩达课程
还好江南
这个作者很懒,什么都没留下…
展开
-
深度学习笔记(四):卷积神经网络week2--深度卷积网络:实例探究
1. 为什么要进行实例探究(Why look at case studies)本周课程将主要介绍几个典型的CNN案例。通过对具体CNN模型及案例的研究,来帮助我们理解知识并训练实际的模型。典型的CNN模型包括:LeNet-5AlexNetVGG除了这些性能良好的CNN模型之外,我们还会介绍Residual Network(ResNet)。其特点是可以构建很深很深的神经网络(目前最深的好...原创 2020-04-16 08:32:01 · 529 阅读 · 0 评论 -
深度学习笔记(四):卷积神经网络week1--卷积神经网络
1.计算机视觉1.1 计算机视觉的3个问题(1)图像分类图像分类是一个在工业界广泛使用的需求,从最早的识别手写数字,邮编到现在的人脸识别。(2)物体检测目前物体检测的应用也相当广泛。比如通过城市与道路上的监控视频可以实时捕捉车辆,行人的动态;再比如自动驾驶汽车中也是通过车身上大量摄像头去捕捉周围的环境状况,从而做出相应合理的响应。(3)风格迁移这是近几年火了一段时间的风格迁移,虽...原创 2020-04-10 16:26:27 · 1625 阅读 · 0 评论 -
深度学习笔记(三):结构化机器学习项目week 2--机器学习策略2
1.误差分析1.1 误差分析当算法还没有到达human level时,你需要去分析算法带来的误差,并且决定接下去应该如何优化,从而减小误差。这个过程叫做误差分析。将设在猫狗分类的任务上,若dev set上的error有10%,此时你需要找出这些错误的case,然后统计猫错分成狗,和狗错分成猫各自的比例,如果你发现:狗错分成猫的比例是5%猫错分成狗的比例是95%则此时,你无需再花大量时间...原创 2020-04-06 11:48:01 · 365 阅读 · 0 评论 -
深度学习笔记(三):结构化机器学习项目week 1--机器学习策略1
课程来源:吴恩达 深度学习课程 《结构化机器学习项目》为什么我们需要使用机器学习策略?因为机器学习策略可以帮助我们在正确的方向上优化模型。本文主要分成4部分,第一部分介绍一下什么是正交化;第二部分介绍监督模型的评价指标;第三部分介绍训练集/开发集/测试集的划分;第四部分比较模型与人的表现。这些都是一些机器学习模型训练过程中的细节注意点,能帮助你有效地进行模型的训练与优化,从而事半功倍...原创 2020-04-03 10:13:27 · 282 阅读 · 0 评论 -
深度学习笔记(二):3.1Batch Norm原理详解
...原创 2020-03-24 11:28:38 · 181 阅读 · 0 评论 -
深度学习笔记(二):2优化算法(二)(Momentum, RMSProp, Adam)
1.动量梯度下降法(Gradient descent with Momentum)基本的想法:运行速度几乎总是快于标准的梯度下降算法,简而言之,就是计算梯度的指数加权平均数,并利用该梯度更新你的权重例如,在上几个导数中,你会发现这些纵轴上的摆动平均值接近于零,所以在纵轴方向,你希望放慢一点,平均过程中,正负数相互抵消,所以平均值接近于零。但在横轴方向,所有的微分都指向横轴方向,因此横轴方向...原创 2020-03-18 15:47:28 · 763 阅读 · 0 评论 -
深度学习笔记(二):2优化算法(一)Mini-batch和指数加权平均数
Mini-batchMini-batch是一个一次训练数据集的一小部分,而不是整个训练集的技术。它可以使内存较小、不能同时训练整个数据集的电脑也可以训练模型。Mini-batching 从运算角度来说是低效的,因为你不能在所有样本中计算 loss。但是这点小代价也比根本不能运行模型要划算。它跟随机梯度下降(SGD)结合在一起用也很有帮助。方法是在每一代训练之前,对数据进行随机混洗,然后创...原创 2020-03-18 13:33:16 · 896 阅读 · 0 评论