Hiker1995-CSDN博客

转载 Sequence Model Week3

Week 3 Sequence models & Attention mechanism1. Basic ModelsSequence to sequence（序列）模型在机器翻译和语音识别方面都有着广泛的应用。下面，我们来看一个机器翻译的简单例子：针对该机器翻译问题，可以使用“编码网络（encoder network）”+“解码网络（decoder network）”两个RNN模型组合...

2018-06-18 22:15:16 316

转载 Sequence Model Week2

Week 2 NLP & Word Embeddings1. Word Representation上节课我们介绍过表征单词的方式是首先建立一个较大的词汇表（例如10000），然后使用one-hot的方式对每个单词进行编码。例如单词Man，Woman，King，Queen，Apple，Orange分别出现在词汇表的第5391，9853，4914，7157，456，6257的位置，则它们分...

2018-06-15 17:14:18 313

转载 Sequence Model Week1

Week1 Recurrent sequence model1. Why sequence models序列模型能够应用在许多领域，例如：语音识别音乐发生器情感分类 DNA序列分析机器翻译视频动作识别命名实体识别这些序列模型基本都属于监督式学习，输入x和输出y不一定都是序列模型。如果都是序列模型的话，模型长度不一定完全一致。2. Not...

2018-06-06 20:09:10 642

转载 Convolutional Neural Networks - Week4

Week4 人脸识别与风格迁移1. What is face recognition首先简单介绍一下人脸验证（face verification）和人脸识别（face recognition）的区别。人脸验证：输入一张人脸图片，验证输出与模板是否为同一人，即一对一问题。人脸识别：输入一张人脸图片，验证输出是否为K个模板中的某一个，即一对多问题。一般地，人脸识别比人脸验证更难一些。因为假设人脸验证...

2018-05-12 21:30:06 260

原创 C语言指针学习

C语言中的参数传递是一种值的传递调用函数无法修改被调用函数的值（若要修改需要使用指针）。/* swap1.c -- first attempt at a swapping function *///C语言中的参数传递是一种值的传递调用函数无法修改被调用函数的值（若要修改需要使用指针） #include <stdio.h>void interchange(in...

2018-05-12 13:14:52 2102 1

转载 Convolutional Neural Networks-Week3

Week3 目标检测1. Object Localization前两节课程中，我们介绍的是利用CNN模型进行图像分类。除此之外，本周课程将继续深入介绍目标定位和目标检测（包含多目标检测）。标准的CNN分类模型我们已经很熟悉了，如下所示：原始图片经过CONV卷积层后，Softmax层输出4 x 1向量，分别是：注意，class label也可能是概率。上述四个向量分别对应pedestrain，ca...

2018-05-10 21:03:27 228

转载 Improving Deep Neural Networks - Week3

Week3 超参数调试、Batch正则化和编程框架上节课我们主要介绍了深度神经网络的优化算法。包括对原始数据集进行分割，使用mini-batch gradient descent。然后介绍了指数加权平均（Exponentially weighted averages）的概念以及偏移校正（bias correction）方法。接着，我们着重介绍了三种常用的加速神经网络学习速度的三种算法：动量梯度下...

2018-05-09 15:52:44 230

转载 Improving Deep Neural Networks - Week2

Week2 优化算法上节课我们主要介绍了如何建立一个实用的深度学习神经网络。包括Train/Dev/Test sets的比例选择，Bias和Variance的概念和区别：Bias对应欠拟合，Variance对应过拟合。接着，我们介绍了防止过拟合的两种方法：L2 regularization和Dropout。然后，介绍了如何进行规范化输入，以加快梯度下降速度和精度。然...

2018-05-09 15:41:55 250

转载 Improving Deep Neural Networks - Week1

在接下来的几次笔记中，我们将对第二门课《Improving Deep Neural Networks: Hyperparameter tuning, Regularization and Optimization》进行笔记总结和整理。我们在第一门课中已经学习了如何建立一个神经网络，或者浅层的，或者深度的。而这第二门课，我们将着重讨论和研究如何优化神经网络模型，例如调整超参数，提高算法运行速度等等。...

2018-05-09 15:26:18 315

转载 Neural Network and Deep Learning-Week4

Week4 浅层神经网络上节课我们主要介绍了向量化、矩阵计算的方法和python编程的相关技巧。并以逻辑回归为例，将其算法流程包括梯度下降转换为向量化的形式，从而大大提高了程序运算速度。本节课我们将从浅层神经网络入手，开始真正的神经网络模型的学习。1. Neural Networks Overview首先，我们从整体结构上来大致看一下神经网络模型。前面的课程中，我们已经使用计算图的方式介绍了逻辑回...

2018-05-08 22:58:05 278

转载 Neural Network and Deep Learning-Week3

Week3-神经网络基础之Python与向量化上节课我们主要介绍了逻辑回归，以输出概率的形式来处理二分类问题。我们介绍了逻辑回归的Cost function表达式，并使用梯度下降算法来计算最小化Cost function时对应的参数w和b。通过计算图的方式来讲述了神经网络的正向传播和反向传播两个过程。本节课我们将来探讨Python和向量化的相关知识。1. Vectorization深度学习算法中，...

2018-05-08 22:40:58 213

转载 Neural Network and Deep Learning-Week2

Week2上节课我们主要对深度学习（Deep Learning）的概念做了简要的概述。我们先从房价预测的例子出发，建立了标准的神经网络（Neural Network）模型结构。然后从监督式学习入手，介绍了Standard NN，CNN和RNN三种不同的神经网络模型。接着介绍了两种不同类型的数据集：Structured Data和Unstructured Data。最后，我们解释了近些年来深度学习性...

2018-05-08 22:17:00 232

转载 Neural Network and Deep Learning-Week1

吴恩达（Andrew Ng）相信大家都不陌生了。8 月 8 日，吴恩达在他自己创办的在线教育平台 Coursera 上线了他的人工智能专项课程（Deep Learning Specialization）。此课程广受好评，通过视频讲解、作业与测验等让更多的人对人工智能有了了解与启蒙，国外媒体报道称：吴恩达这次深度学习课程是迄今为止，最全面、系统和容易获取的深度学习课程，堪称普通人的人工智能第一课。W...

2018-05-08 21:58:53 249

转载 Structuring Machine Learning Projects-Week2

Week21. Carrying out error analysis对已经建立的机器学习模型进行错误分析（error analysis）十分必要，而且有针对性地、正确地进行error analysis更加重要。举个例子，猫类识别问题，已经建立的模型的错误率为10%。为了提高正确率，我们发现该模型会将一些狗类图片错误分类成猫。一种常规解决办法是扩大狗类样本，增强模型对够类（负样本）的训练。但是，这...

2018-05-08 21:43:49 224

转载 Structuring Machine Learning Projects-Week1

《Structuring Machine Learning Projects》（构建机器学习项目）这门课是Andrw Ng深度学习专项课程中的第三门课。这门课主要介绍机器学习中的一些策略和方法，让我们能够更快更有效地让机器学习系统工作，该门课共有两周的课时。1. Why ML Strategy当我们最初得到一个深度神经网络模型时，我们可能希望从很多方面来对它进行优化，例如：Collect more...

2018-05-08 21:22:25 266 1

转载 Convolutional Neural Networks-Week2

Week2 深度卷积神经网络1. Why look at case studies本周课程将主要介绍几个典型的CNN案例。通过对具体CNN模型及案例的研究，来帮助我们理解知识并训练实际的模型。典型的CNN模型包括：LeNet-5AlexNetVGG除了这些性能良好的CNN模型之外，我们还会介绍Residual Network（ResNet）。其特点是可以构建很深很深的神经网络（目前最深的好像有15...

2018-05-07 22:24:08 240

转载 Convolutional Neural Networks-Week1

《Convolutional Neural Networks》是Andrw Ng深度学习专项课程中的第四门课。这门课主要介绍卷积神经网络（CNN）的基本概念、模型和具体应用。该门课共有4周课时，所以我将分成4次笔记来总结，这是第一节笔记。Week1:卷积神经网络1. Computer Vision机器视觉（Computer Vision）是深度学习应用的主要方向之一。一般的CV问题包括以下三类：I...

2018-05-07 21:34:29 191

Hiker_H的博客