tensorflow研究与应用
seasermy
专注AI算法研究与应用,AI软硬件协同优化,AI系统解决方案
展开
-
import_meta_graph:KeyError, no InUse
I think this is a general problem with ops defined in the tf.contrib namespace, because they are lazily registered on the first use of any tf.contrib module. If you add the statement dir(tf.cont...原创 2020-02-06 19:34:49 · 596 阅读 · 0 评论 -
AttributeError: 'module' object has no attribute 'AbstractModule'
当使用sonnet进行网络构建时,出现AttributeError: 'module' object has no attribute 'AbstractModule',可以如下解决:pip uninstall sonnetpip install dm-sonnet另外一个错误,SystemError: Sonnet requires tensorflow_probability (m...原创 2019-12-30 14:21:19 · 504 阅读 · 0 评论 -
training become slow?训练速度奇怪的变慢?tcmalloc在tensorflow中的使用!
--------------------前言------------------------在训练视频分类训练的时候,发现tensorflow莫名的变慢2~5 sec /batch, 之前一直是0.4 sec/batch, 联想到最早之前mxnet训练分类时候的类似情况,决定做排查(都是同一台训练服务器上):(1)杀掉一些僵尸进程或多并行进程,eg. im2rec, 发现不见效,并且cpu...原创 2019-06-19 16:16:37 · 1261 阅读 · 0 评论 -
如何查找python程序的性能瓶颈?
python程序应用领域很广,mxnet, tensorflow, keras, pytorch等深度学习框架,都有基于python的接口和架构,当在训练或者inference的时候,如何确定程序中的热点,查找性能瓶颈并改进呢?像mxnet, tensorflow都有自己的profiler, 但更多的是定位model或graph热点的,利用cProfile,我们可以定义general的热点,类...原创 2019-06-19 13:57:44 · 1643 阅读 · 1 评论 -
AttributeError: 'module' object has no attribute 'AbstractModule'
当使用sonnet进行网络构建时,出现AttributeError: 'module' object has no attribute 'AbstractModule',可以如下解决:pip uninstall sonnetpip install dm-sonnet另外一个错误,SystemError: Sonnet requires tensorflow_probability (m...原创 2019-06-13 15:01:46 · 2491 阅读 · 1 评论 -
如何编译debug版本的ensorflow c++库
之前的博客里,我们讲了tensorflow c++库的编译,那么,当遇到一些奇怪的问题时,需要gdb进行调试,这时就需要将tensorflow编译成debug版本:bazel build --cxxopt='-g' //tensorflow:libtensorflow_framework.so运行上述命令,能够编译tesnsor flow中的c++代码(cuda代码除外)成debug版本....原创 2019-05-23 17:29:24 · 2269 阅读 · 1 评论 -
tensorflow的模型理解及freeze
新版本的tensorflow, 在训练完毕后,用tf.train.Saver保存模型的时候,一般文件夹中会出现四个类似字样的文件,如下:checkpoint : 记录保存的模型的名字graph.ckpt.data-00000-of-00001 : 保存所有变量的取值(权重,偏移等)graph.ckpt.index:保存所有的变量名称graph.ckpt.meta:保存计算图的结构...原创 2019-05-17 09:13:53 · 1367 阅读 · 0 评论 -
tensorflow c++推理,如何为input tensor赋值?
tensorflow是个强大的数值计算工具,同时也是强大的深度学习工具.当我们在用c++ api做推理的时候,如何将数据输入tensorflow, 有时候会感到迷惑,本文以图像分类为例子,做简单的说明:我们还是以tensorflow examples中的label_image为例子进行说明.在例子中,main.cc用了ReadTensorFromImageFile函数从jpeg文件中解码并赋值...原创 2019-05-14 15:53:29 · 3783 阅读 · 5 评论 -
tensorflow c++编译及调用
tensorflow的接口强大,同时模型及ops也多,许多顶会论文都是在tensorflow基础上发表的,但主要注重python接口,这点比不上mxnet那么,如何编译c++库及接口,如何调用生成的模型进行推理呢?本文以label_image中的例子为主,介绍主要点,希望对大家有所帮助:1. 环境:centos7, tensorflow-1.13, gcc 4.8.52. 编译:cd到...原创 2019-05-13 18:32:16 · 1477 阅读 · 0 评论 -
tf.place_holder的用法
使用placeholder的作用:在构建tensorflow的数据流图graph的时候,graph并不会直接执行,而是等到执行sess.Run的时候才会执行,这样便于图的优化.placeholder是用来在模型中占位的,它只会分配必要的内存,并没有传入真正的数据。先占个座,等建立session,在会话中,运行模型的时候通过feed_dict()函数向占位符喂入数据。import tens...原创 2019-05-20 15:05:53 · 1224 阅读 · 0 评论 -
tf.nn.in_top_k的用法
tf.nn.in_top_k(predictions, targets, k, name=None)作用:判断predictions中的预测结果是否与target中的真值一致参数:predictions:输入tensor, 类型为tf.float32, 一般为全连接层fc的输出(op)或者softmax的输出(op),shape= [样本个数,每个样本的预测概率向量维度(类别数...原创 2019-05-20 14:52:16 · 831 阅读 · 0 评论