![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习笔记
文章平均质量分 96
寥廓长空
乘风破浪会有时,直挂云帆济沧海。
展开
-
1、深度学习简介
对深度学习的简单介绍1、什么是神经网络2、监督学习3、为什么深度学习会这么火1、什么是神经网络这里以房价预测为例,对于六个已知面积和对应价格的房屋样本,下图左边拟合出了一个线性模型,输入新样本的面积size,这个模型可以预测出这个新房屋样本的价格 price。房屋的面积 size 被称为房屋这个样本的一个特征,一般用小写的 x 表示,而房屋的价格 price 被称为房屋这个样本的标签,一般用...原创 2019-07-13 11:27:38 · 1510 阅读 · 0 评论 -
14、神经风格迁移 (Neural style transfer)
神经风格迁移1 什么是神经风格迁移2 卷积神经网络在学习什么3 代价函数4 内容代价函数1 什么是神经风格迁移对于一个实物图象和美术作品,神经网络会将美术作品的风格融合到实物图象中,从而生成一张新的艺术作品。这就是所谓的神经风格迁移。2 卷积神经网络在学习什么对第 1 层的训练通常是在寻找相对简单的特征,比如边或特别的颜色。通过第 2 层是在检测更复杂的形状和模式,例如寻找拥有垂直...原创 2019-09-05 00:34:24 · 1514 阅读 · 0 评论 -
13、人脸识别
人脸识别1 人脸识别1.1 人脸检测、人脸验证、人脸识别1.2 单样本学习1.3 孪生网络 (Siamese Network)1.4 三元组损失函数1.5 基于孪生网络的二分类系统实现人脸识别1.6 一个节约时间的方法2 神经风格迁移2.1 什么是神经风格迁移1 人脸识别1.1 人脸检测、人脸验证、人脸识别人脸检测:是否有人脸,有多少人脸? 例子:某些智能手机的相机在拍照时会检测人脸人脸...原创 2019-09-02 19:48:22 · 1011 阅读 · 0 评论 -
16、自然语言处理&词嵌入
自然语言处理&词嵌入1 词嵌入1.1 词表征1.2 使用词嵌入1.3 词嵌入的特性1.4 嵌入矩阵2 学习词嵌入:Word2vec & GloVe2.1 学习词嵌入2.2 Word2vec2.3 负采样2.4 GloVe词向量3 词嵌入的应用3.1 情感分类3.2 词嵌入除偏1 词嵌入1.1 词表征前面我们学过用独热向量指定某个词在词典中的位置来表示某个词。这种方法的缺...原创 2019-09-02 02:18:36 · 1420 阅读 · 0 评论 -
15、循环序列模型
循环序列模型1、为什么选择循环序列模型2、符号标记1、为什么选择循环序列模型序列模型是神经网络中的几大分支之一,比如循环神经网络(RNN)就属于序列模型。序列模型运用得很广,下面给出了一些常见得例子:从上图可以看到,序列模型也存在不同类型,有些 X 和 Y 都是序列,而有些只是两者之一是序列数据。2、符号标记符号说明:上标 (i)(i)(i) :第 iii 个样本;上标&l...原创 2019-08-30 00:19:42 · 1046 阅读 · 0 评论 -
12、目标检测(Object Detection)
目标检测1 目标定位2 Landmark Detection1 目标定位分类、定位、检测标签损失函数(以均方差为例):2 Landmark Detection原创 2019-08-23 01:29:18 · 370 阅读 · 0 评论 -
10、卷积神经网络
Convolutional Neural Networks1 计算机视觉(Computer Vision)2 边缘检测(Edge Detection)2.1 用卷积操作实现垂直边缘检测3 更多边缘检测1 计算机视觉(Computer Vision)受益于深度学习,计算机视觉是目前快速发展的领域之一。 深度学习计算机视觉可以帮助自动驾驶汽车判断其周围的其他汽车和行人的位置以躲避他们,帮助面部识...原创 2019-08-17 23:36:23 · 470 阅读 · 0 评论 -
8、机器学习策略(二)
机器学习策略(二)1 错误分析1.1 进行错误分析1.2 清理错误标记的数据1 错误分析1.1 进行错误分析假设我们正在训练一个猫分类器,准确率达到为 80%,错误率则为 20%,显然还有很大的进步空间。那么我们应该从哪一个方向着手提升准确率呢?错误分析可以让我们很快地分析出哪些工作是值得我们优先做的。具体来说,随机抽取验证集中 100 张分类错误的图片。首先,找出这些图片被错误分类的原因...原创 2019-08-12 09:19:51 · 436 阅读 · 0 评论 -
9、超参数调优、批量归一化、深度学习框架
超参数调优、批量标准化、深度学习框架1 超参数调优21 超参数调优2原创 2019-08-15 11:16:56 · 534 阅读 · 0 评论 -
11、深度卷积模型:案例研究
深度卷积模型:案例研究1 经典卷积网络模型1.1 早期的经典模型1.1.1 LeNet-51.1.2 AlexNet1.1.3 VGG(VGG-16)1.2 ResNet(残差网络)1.2.1 什么是 ResNet1.2.1 为什么 ResNet 有效1.3 Inception Network1.3.1 1x1的卷积操作1 经典卷积网络模型了解一些经典的网络模型,阅读这些论文中的观点可能会对自...原创 2019-08-20 10:36:39 · 940 阅读 · 0 评论 -
6、优化算法
优化算法1 小批量梯度下降(Mini-batch gradient descent)1.1 什么是小批量下降算法1.2 如何设置batch的大小1 小批量梯度下降(Mini-batch gradient descent)1.1 什么是小批量下降算法机器学习是一个高度依赖经验的不断重复的过程,你需要训练很多模型才能找到一个最好用的。所以能够快速的训练模型的确是个优势。令情况更艰难的是,在大数据...原创 2019-08-09 03:17:13 · 3949 阅读 · 1 评论 -
5、改善神经网络的性能
神经网络调参1 数据集1.1 数据集的划分1.2 数据集的分布1 数据集1.1 数据集的划分如果数据集不是太大,比如包含的样本只有一万或以下,那么传统的做法一般按照以下比例对数据集进行划分训练集(train_set)、验证集(dev_set)以及测试集(test_set)训练集:60%验证集:20%验证集:20%在机器学习的领域里,如果只有训练集和验证集而没有单独的测试...原创 2019-08-02 06:20:51 · 1304 阅读 · 0 评论 -
7、机器学习策略(一)
机器学习策略(一)1 正交化(Orthogonalization)1.1 什么是正交化1.2 机器学习中的正交化2 量化评估指标2.1 单一的量化评估指标2.2 设置优化指标和满意度指标3 设置数据集4 什么时候改变验证集/测试集、评价指标?1 正交化(Orthogonalization)1.1 什么是正交化区别与数学中的正交化是让两向量垂直,在机器学习中,正交化是指使两个功能调节之间独立,...原创 2019-08-05 03:24:40 · 1958 阅读 · 0 评论 -
4、全连接神经网络
浅层神经网络1、对浅层神经网络结构的理解1、对浅层神经网络结构的理解这里以包含一个隐藏层和一个输出层的两层全连接神经网络为例(严格的说输入层并不能算为一层),上图左是它的结构图。将网络中的某个节点放大,得到了上图右。与逻辑回归采用 sigmoid 函数作为激活函数不同的是,适用于神经网络的激活函数有很多,包括但不限于 sigmoid 函数,下面会详解讲解。除了激活函数的差别外,神经网络中单个...原创 2019-07-22 01:46:36 · 37630 阅读 · 1 评论 -
3、python神经网络编程时避免出错和提速的技巧
1、确保矩阵或向量的形状正确在对多个矩阵或者向量进行运算时,如果矩阵或向量的形状 (shape) 不正确,可能会出现令人摸不着头脑的错误。在编程过程中遵循以下的建议,可以有效减少一些不必要的错误:(1)用 n 行 1 列的矩阵来表示一个列向量,用 1 行 n 列的矩阵来表示一个行向量。import numpy as npa = np.array([1,2,3,4]) b = np.a...原创 2019-07-16 17:29:54 · 321 阅读 · 0 评论 -
2、逻辑回归
用神经网络实现逻辑回归1、逻辑回归2、逻辑回归的代价函数3、梯度下降1、逻辑回归逻辑回归是一种针对二分类问题的算法。在二分类算法中,标签 y 往往都等于 0 或者 1,以此表示某个样本是否属于某个类别。比如在一个针对猫的二分类任务中,y=0 表示这张图片步是猫,y=1 表示这张图片是猫。对于输入的 x,逻辑回归算法能够输出一个预测值,我们称之为 y^\hat{y}y^,这代表对真实标签 Y...原创 2019-07-16 01:23:44 · 396 阅读 · 0 评论 -
17、Sequence models & Attention mechanism
Sequence models & Attention mechanism1 多种多样的序列架构1.1 基础模型:Seq2Seq1.2 选择最有可能的句子1.3 集束搜索 (Beam Search)1 多种多样的序列架构1.1 基础模型:Seq2SeqSeq2Seq模型: 输入序列,生成序列。例1:机器翻译例2:图片标注1.2 选择最有可能的句子语言模型: 可以估算一个句...原创 2019-09-06 22:33:34 · 490 阅读 · 0 评论