TensorFlow
小码爱撞墙
这个作者很懒,什么都没留下…
展开
-
搭建神经网络优化框架
在《搭建神经网络基本框架》中,我们介绍了搭建神经网络的基本流程,主要就是四步,准备数据、前向传播、方向传播、训练网络。现在,我们再来我基本框架的基础上进行优化,使得我们搭建的模型更具有泛化能力和解决复杂问题的能力。...原创 2020-04-30 01:05:46 · 55460 阅读 · 0 评论 -
TensorFlow中过拟合
什么是过拟合 过拟合是指在模型参数拟合过程中的问题,由于训练包含抽样误差。训练时,复杂的模型将抽样误差也考虑在内,将抽样误差也进行了很好的拟合。过拟合的原因1.数据量少2.使用模型比较复杂解决过拟合问题1.增加训练数据量2.选择合适的模型3.正则化(L1、L2)4.Bagging5.Boosting6.Dropout...原创 2020-04-30 00:30:33 · 55783 阅读 · 0 评论 -
搭建神经网络八股
搭建神经网络八股基本骨架:# 搭建模块化的神经网络八股:# 前向传播就是搭建网络。设计网络结构(forword.py) def forward(x, regularizer): w = b = y = return y def get_weight(shape, regularizer): w = tf...原创 2020-04-28 14:42:12 · 55874 阅读 · 0 评论 -
搭建神经网络基本构架
输入数据集X、YX和Y在会话为x,y喂入数据占位符:x = tf.placeholder(tf.float32, [None, 2], name='x_input') #[None, 2]None指的batch size的大小,所以可以是任何数,2表示列为2y = tf.placeholder(tf.float32, [None, 1], name='y_input')...原创 2020-04-28 13:51:46 · 55721 阅读 · 0 评论 -
TensorFlow中学习率
学习率学习率属于超参数。学习率决定梯度下降速度的快慢,学习率越大,速度越快;学习率越小,速度越慢。如果学习率过大,很可能会越过最优值;反而如果学习率过小,优化的效率可能过低,长时间算法无法收敛。所以学习率对于算法性能的表现至关重要。指数衰减学习率指数衰减学习率是在学习率的基础上增加了动态变化的机制,会随着梯度下降变化而动态变化tf.train.expo...原创 2020-04-28 05:55:58 · 71823 阅读 · 0 评论 -
TensorFlow中tensor
在TensorFlow中,我们使用张量表示数据,使用计算图搭建神经网络,使用会话训练神经网络,执行训练过程。首先我们先了解张量的运行机制和原理。张量是什么? 简单来说,张量就是N维数组。N维数组(N维张量)表征了数据的不同形状,比如0维张量表示标量、1维张量表示向量,2维张量表示矩阵,下面我们直观的给出0维到4维的张量,更高维度的张量很少用,而且理解起来也比较困难,这里...原创 2020-04-28 05:56:43 · 55761 阅读 · 0 评论