训练
文章平均质量分 62
my_chen_smile
计算机视觉
展开
-
TensorFlow 训练多个loss函数技巧: 训练步骤,冻结部分层(freeze some scopes),从tensorboard检查问题
这两天使用TensorFlow训练一个多个损失函数的网络模型,自己搭建网络,调参训练,由于网络是一个两阶段的网络,具有三个损失函数,其中两个损失函数监督第一个阶段,一个损失函数家督第二个阶段,而且损失函数监督的并不全是最后一层,还有中间层,这需要调整我的训练方式。训练方式先分别训练第一阶段的两个损失函数固定住第一阶段的网络的参数,只训练第二阶段网络参数调整三个loss函数的正则化参...原创 2018-10-23 16:59:10 · 9729 阅读 · 12 评论 -
TRAINABLE_VARIABLES和UPDATE_OPS的差别
搜索自stack overflowThese are two different things.TRAINABLE_VARIABLESTRAINABLE_VARIABLES is the collection of variables or training parameters which should be modified wh...转载 2018-10-23 17:38:16 · 403 阅读 · 0 评论 -
详解 TensorFlow 训练多个loss函数技巧: 训练步骤,冻结部分层
由于以前写的关于冻结层的博客不够详细,给很多读者造成困惑。为补充关于冻结层,训练多个loss的博客,遂给出更详细的过程。原创 2019-05-29 18:04:25 · 10381 阅读 · 15 评论 -
Python 训练数据 多组数据组合打乱
网络训练的时候,有两种导入数据的形式,第一种是:读入数据的list,然后每次训练的时候读入数据;第二种:一次性读入数据,在训练的时候取batchsize大小的数据进行训练。前种方式适合大数据量,内存不够用时,但是需要在硬盘上反复读写数据,比较耗时;后种方式适合小量量数据,内存足够, 不需要反复的读写硬盘,节省时间。打乱list数据当采用第一种方式读取数据时,每个epoch需要对数据的lis...原创 2019-05-29 17:20:40 · 1001 阅读 · 0 评论