![](https://img-blog.csdnimg.cn/20201014180756922.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
月亮是蓝色
纸上得来终觉浅,绝知此事要躬行
展开
-
【深度学习】神经网络入门(最通俗的理解神经网络)
form:http://tieba.baidu.com/p/3013551686?pid=49703036815&see_lz=1#先从回归(Regression)问题说起。我在本吧已经看到不少人提到如果想实现强AI,就必须让机器学会观察并总结规律的言论。具体地说,要让机器观察什么是圆的,什么是方的,区分各种颜色和形状,然后根据这些特征对某种事物进行分类或预测。其实这就是回归问题。...转载 2018-01-06 17:17:59 · 119852 阅读 · 63 评论 -
【深度学习】权重初始化
为什么要初始化?暴力初始化效果如何?神经网络,或者深度学习算法的参数初始化是一个很重要的方面,传统的初始化方法从高斯分布中随机初始化参数。甚至直接全初始化为1或者0。这样的方法暴力直接,但是往往效果一般。本篇文章的叙述来源于一个国外的讨论帖子[1],下面就自己的理解阐述一下。首先我们来思考一下,为什么在神经网络算法(为了简化问题,我们以最基本的DNN来思考)中,参数的选择很重要呢?以sigmoid...转载 2018-03-28 17:53:35 · 3335 阅读 · 2 评论 -
【tensorflow】】模型优化(一)指数衰减学习率
指数衰减学习率是先使用较大的学习率来快速得到一个较优的解,然后随着迭代的继续,逐步减小学习率,使得模型在训练后期更加稳定。在训练神经网络时,需要设置学习率(learning rate)控制参数的更新速度,学习速率设置过小,会极大降低收敛速度,增加训练时间;学习率太大,可能导致参数在最优解两侧来回振荡。函数原型:tf.train.exponential_decay( learning_rat...原创 2018-03-28 21:28:12 · 9347 阅读 · 2 评论 -
【深度学习】卷积神经网络
讲卷积神经网络之前说说为什么能够进行分类识别?按照传统的SIFT,HOG算法都是先进行特征的提取过程,那么卷积神经网络怎么进行特征的提取呢? 下面,我们就开始吧!先提一个小问题:“你是通过什么了解这个世界的?”当一辆汽车从你身边疾驰而过,你是通过哪些信息知道那是一辆汽车?“它的材质,速度,发动机的声响,还是什么?”你可能说不清所以然,但是当你看到下图时,你会第一时间反应...转载 2018-03-27 21:48:03 · 1165 阅读 · 1 评论 -
【神经网络】VGG16、VGG16_bn、VGG19_bn详解以及使用pytorch进行模型预训练
目录一、论文二、模型介绍三、模型预训练一、论文先来看看VGG这篇论文《Very Deep Convolutional Networks for Large-Scale Image Recognition》论文下载地址论文中几个模型主要以几下几种方案A、B、C、D、E。目前主要还是采用VGG16和VGG19也就是下图中的分别红框和绿框部分。 二、模型介绍其实通过...原创 2018-11-17 11:28:07 · 39748 阅读 · 7 评论