自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

预见未来to50的专栏

Life is limited, but art is long

  • 博客(50)
  • 收藏
  • 关注

原创 深度学习工程师能力模型

学习机器学习和深度已经有一段时间了,花费了不少精力和时间。那么,离实用阶段还有多远呢?先来看看以下深度学习工程师能力模型。参考文章:https://www.cnblogs.com/wintersun/p/12900627.html深度学习工程师能力评估标准主要面向软件相关行业的企业员工及社会人士,能力级别分为初级、中级、高级三个级别。深度学习工程师能力评估要素主要包括专业知识、工程能力、业务理解与实践共3大类、9小类。其中,专业知识包括编程基础、机器学习基础、神经网络基础、深度学习基础;工程能.

2021-02-23 11:53:04 1030

原创 吴恩达深度学习学习笔记——C1W2——神经网络基础——作业1要点回顾——Python及Numpy基础

1. Sigmoid函数及其实现对于一个标量x,其sigmoid函数定义为:对于n维向量x,其sigmoid函数定义为:Python代码:import numpy as np # this means you can access numpy functions by writing np.function() instead of numpy.function()def sigmoid(x): """ Compute the sigmoid of x A

2021-02-22 14:49:21 309

原创 吴恩达深度学习学习笔记——C5W3——序列模型和注意力机制——作业2——唤醒字检测

这里主要梳理一下作业的主要内容和思路,完整作业文件可参考:https://github.com/pandenghuang/Andrew-Ng-Deep-Learning-notes/tree/master/assignments/C5W3/Assignment作业完整截图,参考本文结尾:作业完整截图。Trigger Word Detection(唤醒字检测)Welcome to the final programming assignment of this specialization!

2021-02-20 17:31:56 341

原创 吴恩达深度学习学习笔记——C5W3——序列模型和注意力机制——作业1——神经网络机器翻译

这里主要梳理一下作业的主要内容和思路,完整作业文件可参考:https://github.com/pandenghuang/Andrew-Ng-Deep-Learning-notes/tree/master/assignments/C5W3/Assignment作业完整截图,参考本文结尾:作业完整截图。Neural Machine Translation(神经网络机器翻译)Welcome to your first programming assignment for this week!

2021-02-20 17:05:53 321

原创 吴恩达深度学习学习笔记——C5W3——序列模型和注意力机制——练习题

C5W3 Quiz - Sequence models & Attention mechanismAns: FalseAns: A、B、CAns:AAns: AAns: AAns: A、DFalseAns: TrueAns: AAns: BAns: A1. Consider using this encoder-decoder model for ...

2021-02-20 15:55:39 404

原创 吴恩达深度学习学习笔记——C5W2——自然语言处理与词嵌入——作业2——自动添加表情符号

这里主要梳理一下作业的主要内容和思路,完整作业文件可参考:https://github.com/pandenghuang/Andrew-Ng-Deep-Learning-notes/tree/master/assignments/C5W2作业完整截图,参考本文结尾:作业完整截图。Emojify!(自动添加表情符号)Welcome to the second assignment of Week 2. You are going to use word vector representatio

2021-02-20 15:08:39 430

原创 吴恩达深度学习学习笔记——C5W2——自然语言处理与词嵌入——作业1——词向量的操作

这里主要梳理一下作业的主要内容和思路,完整作业文件可参考:https://github.com/pandenghuang/Andrew-Ng-Deep-Learning-notes/tree/master/assignments/C5W2作业完整截图,参考本文结尾:作业完整截图。Operations on word vectors(词向量的操作)Welcome to your first assignment of this week!Because word embeddings ar

2021-02-20 14:43:51 434

原创 吴恩达深度学习学习笔记——C5W2——自然语言处理与词嵌入——练习题

C5W2 Quiz - Natural Language Processing & Word EmbeddingsAns: FalseAns: BAns: TrueAns: A、CAns: AAns: TrueAns: AAns: A、CAns: B、C、DAns: A1. Suppose you learn a word embedding fo...

2021-02-20 14:04:35 648

原创 吴恩达深度学习学习笔记——C5W2——自然语言处理与词嵌入-3

1.8 GloVe 词向量共现矩阵X1.9 情绪分类简单情绪分类模型情绪分类RNN模型1.10 词嵌入除偏词嵌入中的偏见问题

2021-02-20 13:51:37 217

原创 吴恩达深度学习学习笔记——C5W2——自然语言处理与词嵌入-2

1.4 嵌入矩阵嵌入矩阵与某词的独热编码相乘,即可得到其嵌入向量1.5 学习词嵌入神经网络语言模型(以词嵌入作为输入值)其他上下文-目标词对(context/target pair),如,上下文的左边或右边的4个词,上一词(last 1 word),附近一词(nearby 1 word)1.6 Word2Vec模型Skip-gram模型Softmax分类的一个问题是计算量很大,可使用层级(hierarchical...

2021-02-20 11:35:30 277

原创 吴恩达深度学习学习笔记——C5W2——自然语言处理与词嵌入-1

1.1 词汇表征使用独热编码表示词汇的局限性:不能表示不同词汇之间的关系(不同词之间是正交关系,内积为零)词汇的特征化表示:词嵌入(word embedding),同类词的特征值相同或接近词嵌入的可视化表示(t-SNE)1.2 使用词嵌入命名实体识别示例迁移学习及词嵌入词嵌入与人脸编码的关系——很相似,只是不同的约定称呼而已1.3 词嵌入的特性词嵌入的特性:同类词间的差较小寻找同类...

2021-02-19 17:26:40 315

原创 吴恩达深度学习学习笔记——C5W1——循环序列模型(RNN)——作业3——使用LSTM网络创作即兴爵士乐

这里主要梳理一下作业的主要内容和思路,完整作业文件可参考:https://github.com/pandenghuang/Andrew-Ng-Deep-Learning-notes/tree/master/assignments/C5W1作业完整截图,参考本文结尾:作业完整截图。Improvise a Jazz Solo with an LSTM Network(使用LSTM网络创作即兴爵士乐)Welcome to your final programming assignment of t

2021-02-19 15:04:17 557

原创 吴恩达深度学习学习笔记——C5W1——循环序列模型(RNN)——作业2——字符级语言模型

这里主要梳理一下作业的主要内容和思路,完整作业文件可参考:https://github.com/pandenghuang/Andrew-Ng-Deep-Learning-notes/tree/master/assignments/C5W1作业完整截图,参考本文结尾:作业完整截图。Character level language model - Dinosaurus land(字符级语言模型——恐龙乐园)Welcome to Dinosaurus Island! 65 million year

2021-02-19 14:22:39 368 1

原创 吴恩达深度学习学习笔记——C5W1——循环序列模型(RNN)——作业1——搭建循环神经网络

这里主要梳理一下作业的主要内容和思路,完整作业文件可参考:https://github.com/pandenghuang/Andrew-Ng-Deep-Learning-notes/tree/master/assignments/C5W1作业完整截图,参考本文结尾:作业完整截图。Building your Recurrent Neural Network - Step by Step(搭建循环神经网络)Welcome to Course 5's first assignment! In th

2021-02-19 11:42:19 394

原创 吴恩达深度学习学习笔记——C5W1——循环序列模型(RNN)——练习题

C5W1 Quiz - Recurrent Neural NetworksAns: AAns: AAns: B、D4.Ans: CAns: DAns: BAns: DAns: CAns: AAns: C1. Suppose your training examples are sentences (sequences of words)....

2021-02-19 11:13:55 962

原创 吴恩达深度学习学习笔记——C4W4——特殊应用:人脸识别和神经风格转换——作业2——神经风格转换

这里主要梳理一下作业的主要内容和思路,完整作业文件可参考:https://github.com/pandenghuang/Andrew-Ng-Deep-Learning-notes/tree/master/assignments/C4W4/Assignment/Neural_Style_Transfer作业完整截图,参考本文结尾:作业完整截图。Deep Learning & Art: Neural Style Transfer(深度学习与艺术:神经风格转换)Welcome to th

2021-02-18 17:19:10 511

原创 吴恩达深度学习学习笔记——C4W4——特殊应用:人脸识别和神经风格转换——作业1——人脸识别

这里主要梳理一下作业的主要内容和思路,完整作业文件可参考:https://github.com/pandenghuang/Andrew-Ng-Deep-Learning-notes/tree/master/assignments/C4W4/Assignment/Face_Recognition作业完整截图,参考本文结尾:作业完整截图。Face Recognition for the Happy House(“欢乐屋”人脸识别)Welcome to the first assignment o

2021-02-18 16:44:34 434

原创 吴恩达深度学习学习笔记——C4W4——特殊应用:人脸识别和神经风格转换——练习题

C4W4 Quiz - Face Recognition & Neural Style TransferAns: TrueAns: B、CAns: FalseAns: CTrueFalseAns: TrueAns: TrueAns: FalseNote: Neural style transfer is part of convolution neural network but not machine...

2021-02-18 15:03:36 389

原创 吴恩达深度学习学习笔记——C4W4——特殊应用:人脸识别和神经风格转换-3

1.8 代价函数目标图像的生成过程1.9 内容代价函数1.10 风格损失函数艺术风格应该怎么衡量?可以使用不同通道上激活函数(值)的关联度(correlation)来衡量。图像风格的直观理解风格矩阵(格拉姆矩阵,gram matrix)风格损失函数1.11 一维到三维推广二维卷积和一维卷积3D数据可以看做2D数据的堆叠3D卷积...

2021-02-18 14:47:04 137

原创 吴恩达深度学习学习笔记——C4W4——特殊应用:人脸识别和神经风格转换-2

1.5 人脸验证与二分类除了使用三元组损失函数外,还可以将人脸验证问题作为二分类问题来解决1.6 什么是神经风格转换?1.7 深度卷积网络在学什么?深度网络的可视化示例:第一层可以学习到对象的边缘第二层可以学习到对象的条纹第三层可以学习到对象的图案第四层可识别出简单物体:小狗(比较相似)、鸟的腿脚第五层可识别出较复杂物体:小狗(不同种别)、标签等...

2021-02-18 13:42:40 147

原创 吴恩达深度学习学习笔记——C4W4——特殊应用:人脸识别和神经风格转换-1

1.1 什么是人脸识别?人脸验证(face verification)是人脸识别(face recognition)的基础1.2 One-Shot学习One-Shot学习是指仅通过一张人脸图片就能识别出某人。由于图片数量太少,softmax函数不适用于此种场景,需要引入相似度函数。图片相似度函数1.3 Siamese网络Siamese网络可以给出输入图像X1和X2的相似度,由此可计算图像的相似度学习目标:若相似度小,为同一...

2021-02-18 11:44:26 165 1

原创 吴恩达深度学习学习笔记——C4W3——目标检测——作业——自动驾驶之车辆检测

这里主要梳理一下作业的主要内容和思路,完整作业文件可参考:https://github.com/pandenghuang/Andrew-Ng-Deep-Learning-notes/tree/master/assignments/C4W3/Assignment/Car_detection_for_Autonomous_Driving作业完整截图,参考本文结尾:作业完整截图。Autonomous driving - Car detection(自动驾驶之车辆检测)Welcome to your

2021-02-10 16:23:50 926

原创 吴恩达深度学习学习笔记——C4W3——目标检测——练习题

C4W3 Quiz - Detection algorithmsAns: AAns: D3.Ans: BAns: BAns: FalseAns: FalseAns: TrueAns: B9.Ans: C10.Ans:A1. You are building a 3-class object classification and localization ...

2021-02-10 15:47:01 633

原创 吴恩达深度学习学习笔记——C4W3——目标检测-2

1.6 交并比交并比(IoU, Intersection over Union),是对象定位准确度的一个评价方法1.7 非极大值抑制问题引入:如何识别出下图中的车辆?在卷积网络中,可能有多个网格会认为自己识别出了车辆,而不是仅有两个网格分别识别出一辆车但是,不同的网格识别出的边界框(概率、交并比)是不同的,可以加亮(highlight)其中概率最高的边界框,同时抑制其他边界框非极大值抑制算法1.8 锚框(Anchor ...

2021-02-10 15:30:18 161

原创 吴恩达深度学习学习笔记——C4W3——目标检测-1

1.1 目标定位什么是目标定位和目标检测?定位和分类同时进行目标标签的定义1.2 特征点检测特征点(landmark)检测,可用于人脸识别、姿态检测等领域1.3 目标检测示例:车辆检测滑动窗口检测1.4 滑动窗口的卷积实现将全连接层转换为卷积层滑动窗口的卷积实现(卷积网络天然具有滑动窗口的功能)1.5 Bounding Box预测使用YOLO ...

2021-02-10 11:39:37 245 1

原创 吴恩达深度学习学习笔记——C4W2——深度卷积网络实例探究——作业2——残差网络

这里主要梳理一下作业的主要内容和思路,完整作业文件可参考:https://github.com/pandenghuang/Andrew-Ng-Deep-Learning-notes/tree/master/assignments/C4W2/Excercise/KerasTutorial作业完整截图,参考本文结尾:作业完整截图。Residual Networks(残差网络)Welcome to the second assignment of this week! You will learn

2021-02-09 17:40:34 494

原创 吴恩达深度学习学习笔记——C4W2——深度卷积网络实例探究——作业1——Keras教程——“欢乐屋”

这里主要梳理一下作业的主要内容和思路,完整作业文件可参考:https://github.com/pandenghuang/Andrew-Ng-Deep-Learning-notes/tree/master/assignments/C4W2/Excercise/KerasTutorial作业完整截图,参考本文结尾:作业完整截图。Keras tutorial - the Happy House(Keras教程——“欢乐屋”)Welcome to the first assignment of w

2021-02-09 17:11:41 209

原创 吴恩达深度学习学习笔记——C4W2——深度卷积网络实例探究——练习题

C4W2 Quiz - Deep-convolutional-modelsAns: DAns: A、CAns: FalseAns: FalseAns: CAns: C、DAns: B8.Ans: A、DAns: C、DAns: C、D1. Which of the following do you typically see as you move to de...

2021-02-09 16:29:57 514

原创 吴恩达深度学习学习笔记——C4W2——深度卷积网络实例探究-2

1.5 网络中的网络以及1×1卷积1*1卷积类似于一个半侧节点数可伸缩的全连接层,这里的半侧节点数等于滤波器的数量。当滤波器个数小于输入层的通道数时,相当于降维操作;当滤波器个数大于输入层通道数时,相当于升维操作。1.6 谷歌Inception网络简介Inception网络的创意:需要使用多大的滤波器?1*1, 3*3,5*5还是池化层?为什么不一起完成所有这些任务?卷积运算中面临着计算成本很高的问题使用1*1卷积可以将卷积运算成本降低一个数...

2021-02-09 16:09:38 187

原创 吴恩达深度学习学习笔记——C4W2——深度卷积网络实例探究-1

1.1 为什么要进行实例探究?了解经典案例,可以获取很多启发,帮助我们开启未来!1.2 经典网络LeNet-5(论文较难懂)AlexNet(论文容易读,建议先读此篇论文)VGG-16(设计比较优雅,卷积层长、宽减半递减的同时,通道数在倍增)1.3 残差网络(ResNet)残差网络是在普通网络(Linear+ReLU)基础上,引入了“跳接”(shortcut, skip connection),产生了残留块(如,a[l+2]...

2021-02-09 12:00:17 189

原创 吴恩达深度学习学习笔记——C4W1——卷积神经网络——作业2——卷积神经网络应用示例

这里主要梳理一下作业的主要内容和思路,完整作业文件可参考:https://github.com/pandenghuang/Andrew-Ng-Deep-Learning-notes/tree/master/assignments/C4W1/Assignment作业完整截图,参考本文结尾:作业完整截图。Convolutional Neural Networks: Application(卷积神经网络应用示例)Welcome to Course 4's second assignment! In

2021-02-08 17:01:37 366

原创 吴恩达深度学习学习笔记——C4W1——卷积神经网络——作业1——卷积神经网络入门

这里主要梳理一下作业的主要内容和思路,完整作业文件可参考:https://github.com/pandenghuang/Andrew-Ng-Deep-Learning-notes/tree/master/assignments/C4W1/Assignment作业完整截图,参考本文结尾:作业完整截图。Convolutional Neural Networks: Step by Step(卷积神经网络入门)Welcome to Course 4's first assignment! I.

2021-02-08 15:49:25 433

原创 吴恩达深度学习学习笔记——C4W1——卷积神经网络——练习题

C4W1 Quiz - The basics of ConvNetsAns: CAns: DNote: 100*(300*300*3)+100 = 27000100Ans: BNote: 5*5*100 + 100 = 2600Ans: CNote: n=63, f=7, nC=32, s=2, p=0nH=nW=(n+2p-f)/s+1=(63-7)/2+1=29Shape of output: nH*nW*nC= 29*29*32...

2021-02-08 14:58:11 902

原创 吴恩达深度学习学习笔记——C4W1——卷积神经网络-3

1.9 池化层Max(最大值)池化层均值池化层池化层小结:1.10 卷积神经网络示例1.11 为什么使用卷积?图像较大时,全连接层的参数数量会非常庞大卷积层的两个特点:参数共享:对图像的一部分有用的特征检测器(滤波器),对图像的另一部分也很可能是有用的 稀疏连接:在每一个卷积层,输出值仅取决于一小部分输入值卷积网络的搭建:...

2021-02-08 14:24:15 181

原创 吴恩达深度学习学习笔记——C4W1——卷积神经网络-2

1.5 卷积步长步长是指每次移动滤波器时,间隔的像素数(步数)卷积小结不同于信号处理领域的卷积,深度学习中的“卷积”又名“cross-correlation”,通常不涉及滤波器的翻转(flip)1.6 平面卷积与立体卷积灰度图像卷积仅涉及图像长、宽,属于“平面卷积”;彩色图像中加入了色彩通道(channel),称为立体卷积(3D convolution)立体卷积相当于使用滤波器立方体在图像立方体中逐块移动,进行滤波滤波器各层...

2021-02-08 13:41:56 404

原创 吴恩达深度学习学习笔记——C4W1——卷积神经网络-1

1.1 计算机视觉问题引入:计算机视觉问题大图像的深度学习面临的一个问题:参数过多(如果按照像素来设置参数,参数会以十亿记)1.2 边缘检测示例问题引入:计算机视觉问题,如,边缘检测(纵向、横向)纵向边缘检测、滤波器(filter)(卷积核(kernel))、卷积运算(按位相乘后求和)为什么能够检测纵向边缘?卷积运算后图像会出现过渡带(midtone)1.3 更多边缘检测示例边缘检测可以检测出不同边界类型:从亮到暗...

2021-02-08 11:34:00 277

原创 吴恩达深度学习学习笔记——C3W2——机器学习策略2——练习题

C3W2 Quiz - Autonomous driving (case study) Ans: BNote: As discussed in lecture, applied ML is a highly iterative process. If you train a basic model and carry out error analysis (see what mistakes it makes) it will help point you in more p...

2021-02-07 17:02:56 1126

原创 吴恩达深度学习学习笔记——C3W2——机器学习策略2-2

2.6 解决数据不匹配问题人工数据合成的比例不能太高,否则会导致对合成数据产生过拟合。2.7 迁移学习迁移学习的两个例子:图像识别应用迁移到医学影像识别 语音识别应用迁移到唤醒词检测迁移学习的应用场合:1. 任务A和任务B具有相同的输入2. 任务A的可用数据量远大于任务B3. 任务A的低层次特征可能对任务B有所帮助2.8 多任务学习多任务学习的一个简单示例:无人驾驶任务中,要同时识别行人、...

2021-02-07 16:24:08 382

原创 吴恩达深度学习学习笔记——C3W2——机器学习策略2-1

2. 1 误差分析问题引入:在识猫应用中,如果有时会将小狗识别为猫,是否应该花很多时间解决这个问题?这取决于在错误标记的例子中,将小狗识别为猫的比例高低。如果较高,则值得花时间解决这一问题;否则,未必值得。这个过程即误差分析。可以并行分析多个问题。如,除了将狗错误识别为猫的问题,还存在将大型猫科动物识别为猫、模糊图像识别率低等问题。2.2 关注标注错误的数据深度学习算法对训练集中的随机误差具有较高的“健壮性”,但对于系统性误差比较脆弱。举例而言,如果训...

2021-02-07 14:30:13 284

原创 吴恩达深度学习学习笔记——C3W1——机器学习策略1——练习题

C3W1 Quiz - Bird recognition in the city of Peacetopia (case study)Ans: TrueAns: D3. Ans: A4. Ans: C5. Ans: False6. Ans: A、D Ans: D8. Ans: B9. Ans: A Ans: A、B Ans: A、B Ans: A...

2021-02-07 11:23:00 298

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除