Fan9_的博客

TF-Slim是一个轻量级库，用于在TensorFlow中定义，训练和评估复杂模型。可自由的把tf-slim与tensorflow或其他框架组合使用； 可以非常方便的使用TF-slim的variables, layers 和scopes定义复杂的网络模型。 一 Variable (1)   相比tensorflow的Variable的定义，TF-slim在定义变量时增加了将变量加入正则化lo...

TF-slim提供了一系列的常用损失函数和其他便捷的辅助函数去帮助执行训练和评估过程； 一 Training Models (1)TF-slim定义loss函数 TF-slim预定义了一些常用的损失函数，如交叉熵损失： import tensorflow as tf import tensorflow.contrib.slim.nets as nets vgg = nets.vgg ...

最近看了下cifar10源码，训练代码中使用了tf.train.SessionRunHook()，tf.train.MonitoredTrainingSession()；查看官方API后终于有些眉目了，特记录备忘。 tf.train.SessionRunHook()是一个类；用来定义Hooks; Hooks是什么，官方文档中关于training hooks的定义是： Hooks are t...

最近看了下cifar10源码，训练代码中使用了tf.train.SessionRunHook()，tf.train.MonitoredTrainingSession()；查看官方API后终于有些眉目了，特记录备忘。 首先，先讲下tf.train.MonitoredTrainingSession()； 一.MonitoredTrainingSession() 首先，tf.tra...

import tensorflow as tf tf.app.flags.DEFINE_string('train_dir','~/projects','this is a train_dir') tf.app.flags.DEFINE_bool('is_traing',True,'ss') tf.app.flags.DEFINE_integer('num_epoch',200,'num') ...

1、变量Tensorflow使用变量来存储并更新参数；# Create two variables. weights = tf.Variable(tf.random_normal([784, 200], stddev=0.35), name="weights") biases = tf.Variable(tf.zeros([200]), name="bi...

一 为什么要用变量共享当我们有一个非常庞大的模型的时候免不了需要进行大量的变量共享，而且有时候还希望能够在一个地方初始化所有的变量;假设定义一个图片滤波器，my_image_filter(input_image)有两个image想要使用同一组参数的同一个滤波器，可以调用该滤波器函数两次，但这样做会产生两组变量，造成资源浪费；一种变量共享的方式是：通过独立的代码来定义并使用，如可以通过外部定义字典，...

tf.train.get_checkpoint_state() 先看下官方文档对于接口的定义了解函数的使用 一 定义 Args: checkpoint_dir:chechpoint文件的路径 latest_filename:指定chechpoint的名字，默认是'checkpoint' Returns: 如果路径有效则返回一个CheckpointState proto对象（该对象有两个可...

在使用经典的网络模型（如VGG16,下文来VGG16来讲述）用于自己的任务task时，可根据自己的需求选择是否使用(VGG16)在ImageNet预训练的权重来恢复模型参数： 不使用预训练的参数，自己训练全部参数；当数据量足够时，这种方法能充分发挥模型的威力，取得较高的性能； 使用预训练的权重恢复除fc8层参数之外的参数，只训练fc8一层，相当于把VGG16模型当成一个特征提取器，用fc7层提...

当训练完一个模型，或者模型正在训练时，我们想要评估模型在实际应用的表现，可通过两个部分来实现模型评估 定义评估标准（度量模型性能的指标）（如Accuracy,Recall_5） 评估代码用于读取数据，执行inference，计算对应于GT的分数，并保存评估的分数 一 Metric (1)metrics：用于定义评估模型性能的标准，如F1分数，IOU; TF-slim提供了一系列的度量操作m...

一 softmax 计算loss时，预测值要与真实值分布在相同的数据区间内，例如真实值在[0,1]区间内，那么网络的预测值也要在相同的区间（0,1）内；这样在计算loss是才会有较好的效果。 在做二分类时，可在网络的输出层使用激活函数sigmoid（）,将输出压缩在（0,1）区间， softmax可看做是对sigmoid的扩展，是用于多分类的激活函数，softmax就是将...

一、tf.Variable() （1）参数说明 tf.Variable是一个Variable类。通过变量维持图graph的状态，以便在sess.run()中执行；可以用Variable类创建一个实例在图中增加变量； Args参数说明: initial_value：Tensor或可转换为Tensor的Python对象，它是Variable的初始值。除非validate_shape设置为Fal...

一 tf.name_scope() 用于定义python op的上下文管理器； __init__( name, default_name=None, values=None ) name:此scope的名字； default_name:name没有预设值时使用此默认名字 values：传递给name_scopesd 变量列表，可在上下文区域对这些变量操作   ...

一 简介 为解决数据来源的复杂性（各数据集的数据格式各不相同），Tensorflow使用TFRecord格式来统一输入数据的格式。 TFRecord是一种将图像数据和标签放在一起的二进制文件，能更好的利用内存，在tensorflow中快速的复制，移动，读取，存储 二 TFRecord文件中的数据格式是通过Proto Buffer定义的 Proto Buffer的...

linux下：截止2019.6.6号tensorflow版本对应的python版本，编译器版本。cuda，cudnn版本，如下 windos，macos及更新的版本对应信息可直接查看官方文档

多分类模型和多任务模型（Multi-task Model）的区别在于： 多分类模型：样本集包含多个类别，但是一个样本只属于一类。 多任务模型：样本集包含多个类别，一个样本可以属于多个类别。 一、多分类模型 1、多分类模型使用交叉熵损失函数。 在计算时其实就是-log(pt)， 对一个样本来说，pt就是该样本真实的类别，模型预测样本属于该类别的概率。例如某样本的label是[0,1,...