深度学习
文章平均质量分 63
沉住气CD
这个作者很懒,什么都没留下…
展开
-
怎么优化深层神经网络(超参、正则以及优化)
在训练神经网络时,我们需要做出很多决策,比如:神经网络分多少层;每层含有多少个隐藏单元;学习速率是多少;各层采用哪些激活函数等等。我们不可能从一开始就准确的预测出这些超参数,因为应用机器学习是一个高度迭代的过程,通常在项目启动时,我们会先有一个初步的想法,比如构建一个含有特定层数,隐藏单元数量或数据集个数等等的神经网络,然后编码,并尝试运行这些代码,通过运行和测试得到该神经网络或这些配置信息的运行结果,你可能会根据输出结果重新完善自己的想法,改变策略,或者为了找到更好的神经网络不断迭代更新自己的方案。对于很原创 2022-06-06 14:26:28 · 279 阅读 · 0 评论 -
神经网络的设计与优化Python
一、深度学习与深层神经网络 深度学习的精确定义——一类通过多层非线性变换对高复杂性数据建模算法的合集。深层神经网络实际上有组合特征提取的功能,对于不易提取特征向量的问题(比如图片识别、语音识别等)有很大帮助,故可以解决异或问题,同时这也是深度学习能够在图像、语言等方向取得突破性进展的原因。这里涉及到几个概念:多层和非线性这是深度学习两个非常重要的特性。线性模型的局限性在于任意...原创 2018-10-20 21:23:10 · 1527 阅读 · 0 评论 -
深度学习的实用层面
1、训练、验证、测试集的划分 在配置训练、验证、测试数据集的过程中,通过做出正确的决策可以帮助创建一个高效的神经网络,这些决策包括但不限于:神经网络包含多少层、每层包含多少隐藏单元、学习速率是多少、各层采取哪些激活函数。 通常在项目开始时,我们会有一个初步的想法,比如构建一个含有特定层数、隐藏单元以及数据集的神经网络,然后进行编码,并根据得出的结果来完善自己的想...原创 2018-11-04 12:09:10 · 277 阅读 · 0 评论 -
深度学习中的优化算法(待更)
优化算法可以使得神经网络运行的速度大大加快,机器学习的应用是一个高度依赖经验的过程,伴随着大量迭代的过程,需要训练诸多的模型来找到最合适的那一个。其中的一个难点在于,深度学习没有在大数据领域发挥最大的效果,我们可以利用一个巨大的数据集来训练神经网络,而大数据下其训练的速度非常慢,此时通过好用的优化算法就可以大大提高团队的效率。1、Mini-batch梯度下降 在训练过程中,把...原创 2018-11-04 14:45:08 · 331 阅读 · 0 评论 -
基于softmax的mnist数字识别
# Title : TODO# Objective : TODO# Created by: Chen Da# Created on: 2018/10/17import tensorflow as tfimport osos.environ['TF_CPP_MIN_LOG_LEVEL'] = '2'#导入数据from tensorflow.examples.tuto...原创 2018-11-26 11:37:25 · 196 阅读 · 0 评论