![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
神经网络
Long仁
从事教育行业,主要研究方向是计算机视觉、图像处理与模式识别、大数据统计分析等。擅长使用的开发语言是Matlab、python等。
展开
-
基于CNN的MNIST手写数字识别
CNN的具体理论知识可到百度或CSDN的其他博客中查找相关内容,下面主要给出完整的代码(代码源于“莫烦python”视频,https://morvanzhou.github.io/tutorials/machine-learning/tensorflow/5-06-save/): """ 使用TF的CNN网络分类MNIST CNN结构:input——Conv1+maxpool——>Conv...原创 2018-08-18 10:23:50 · 1771 阅读 · 0 评论 -
TensorFlow的Saver保存类
一、Saver的介绍 有时可能只需要保存或者加载部分变量。 比如,可能有一个之前训练好的5层神经网络模型,但现在想写一个6层的神经网络,那么可以将之前5层神经网络中的参数直接加载到新的模型,而仅仅将最后一层神经网络重新训练。 为了保存或者加载部分变量,在声明tf.train.Saver类时可以提供一个列表来指定需要保存或者加载的变量。比如在加载模型的代码中使用saver = tf.trai...原创 2018-08-18 11:06:07 · 413 阅读 · 0 评论 -
改善过拟合方法
我们在线性拟合或神经网络学习过程中,都会遇到过拟合或欠拟合问题,那么我们如何解决这个问题呢? 解决过拟合的常用方法有: 1)增加训练样本数据量; 2)使用正则化(正规化)方法(L1,L2)改善过拟合;此方法适用于大多数ML和NN,做法都差不多; 3)在NN中,可使用Dropout正规化方法,就是在NN网络中,我们忽略一些神经元,是这个NN变得不完整,训练一次,到了第2此,在随机忽略一些神经...原创 2018-08-16 16:41:19 · 1516 阅读 · 0 评论 -
基于softmax回归的MNIST分类
MNIST是在机器学习领域中的一个经典问题。为了学习机器学习和TensorFlow库的使用,使用TF构造一个softmax回归网络模型去识别手写数字。以下内容请参考TensorFlow中文社区(http://www.tensorfly.cn/tfdoc/tutorials/mnist_beginners.html) 1)MNIST介绍 2)softmax回归介绍 3)回归模型的训练和评估 ...原创 2018-08-16 20:21:29 · 1336 阅读 · 0 评论 -
如何使用Dropout去防止过拟合
一、Dropout的介绍 dropout是指在深度学习网络的训练过程中,对于神经网络单元,按照一定的概率将其暂时从网络中丢弃。注意是暂时,对于随机梯度下降来说,由于是随机丢弃,故而每一个mini-batch都在训练不同的网络。dropout是CNN中防止过拟合提高效果的一个大杀器,但对于其为何有效,却众说纷纭。 Dropout的思想是训练整体DNN,并平均整个集...原创 2018-08-16 21:54:32 · 3412 阅读 · 0 评论