fs01234的博客

具体见如下博文，不再搬砖：https://www.cnblogs.com/andrew-address/p/12733669.html

一、梯度消失于梯度爆炸层数比较多的神经网络模型在训练时也是会出现一些问题的，其中就包括梯度消失问题（gradient vanishing problem）和梯度爆炸问题（gradient exploding problem）。梯度消失问题和梯度爆炸问题一般随着网络层数的增加会变得越来越明显。例如，对于下图所示的含有3个隐藏层的神经网络，梯度消失问题发生时，接近于输出层的hidden layer 3等的权值更新相对正常，但前面的hidden layer 1的权值更新会变得很慢，导致前面的层权值几乎不变，仍

概念：近来研究VGG网络，将自己的学习的一些知识记录下来。VGGNet是牛津大学计算机视觉组和Google DeepMind公司的研究员一起研发的深度卷积神经网络。VGG主要探究了卷积神经网络的深度和其性能之间的关系，通过反复堆叠33的小卷积核和22的最大赤化层，VGGNet成功地搭建了16或者19层的深度卷积神经网络。与之前的state-of-art的网络结构相比，错误率大幅度下降；同时，VGG的泛化能力非常好，在不同的图片数据集上都有良好的表现。到目前为止，VGG依然经常被用来提取特征图像。需要补

概念定义：卷积神经网络（Convolutional Neural Networks, CNN）是一类包含卷积计算且具有深度结构的前馈神经网络（Feedforward Neural Networks），是深度学习（deep learning）的代表算法之一 。卷积神经网络具有表征学习（representation learning）能力，能够按其阶层结构对输入信息进行平移不变分类（shift-invariant classification），因此也被称为“平移不变人工神经网络（Shift-Invariant

1、在cmd窗口中激活tensorflow环境进入tensorflow环境路径 E:\Work_Softwares\venv\Scripts激活环境 activate效果如下：2、输入命令，tensorboard --logdir=+文件夹路径出现如下提示：3、在浏览器中输入：http://localhost:6006，即可查看到tensorboard图。...

如果tensorflow安装的版本不对，就会在运行本来好好的程序时报告各种错误，提示缺少各种属性。对于这种情况，解决办法就是更换tensorflow版本。首先，需要卸载已经安装的tensorflow，卸载方法如下：pip uninstall tensorflow然后，是安装指定版本的tensorflow，如下：pip install tensorflow==1.14.0最后，看一下安装信息提示，如果没有错误提示，再输入pip list，检查一下已经安装的tensorflow版本是否正确。...

这几天在折腾tensorflow，发现在读取csv文件时报错：tensorflow.python.framework.errors_impl.OutOfRangeError: FIFOQueue先看一下源码：import osimport tensorflow as tffile_name = os.listdir("E:\\program\\python\\tensorflow\\csv_test_data\\")file_list = [os.path.join("E:\\program\\