![](https://img-blog.csdnimg.cn/20201014180756922.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
tensorflow
绛洞花主敏明
研究生在读,喜欢刺激有挑战。
展开
-
显存占满、而GPU利用率为0的情况
显存占满、而GPU利用率为0的情况1、经查阅官方文档得知“在GPU上,tf.Variable操作只支持实数型(float16 float32 double)的参数。不支持整数型参数”2、可能是定义在图中的op只能在CPU中运行,GPU不支持。加上代码中设置的参数allow_soft_placement = True,那么此时代码将模型加载到CPU上进行计算,因此会出现,参数加载到GPU中,但是GPU的利用率为0,CPU的利用率则很高。...原创 2020-09-19 10:23:27 · 10542 阅读 · 1 评论 -
Could not satisfy explicit device specification ‘/device:GPU:0‘ because no supported kernel for GPU
参考:https://blog.csdn.net/xd_wjc/article/details/80550862windows7+Anoconda3+tensoeflow-gpu1.4+cuda8.0+cudnn6.0启动训练文件train_image_classifier.py的时候会报Cannot assign a device for operation ‘InceptionV3/AuxLogits/Conv2d_2b_1x1/weights/RMSProp1’: Could not satisf转载 2020-09-19 10:19:06 · 305 阅读 · 0 评论 -
tensorflow使用GPU加速
测试faster-rcnn时,cpu计算速度较慢,调整代码改为gpu加速运算将 with tf.Session() as sess: 替换为1 gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.9)2 with tf.Session(config=tf.ConfigProto(gpu_options=gpu_options,log_device_placement=True),graph=detection_graph) as转载 2020-09-19 10:05:20 · 5449 阅读 · 0 评论 -
Tensorflow跨设备调用GPU
注意:在开始讲述之前首先对Tensorflow框架下的模型的跨设备操作进行说明,具体跨设备操作包括以下四种情况:CPU模型训练 -> GPU模型推理GPU模型训练 -> GPU模型推理CPU模型训练 -> CPU模型推理GPU模型训练 -> CPU模型推理以上四种情况在Pytorch框架下存在差异,需要在不同的设备上(例如GPU训练->CPU推理的代码要在模型加载中加入模型.to(device))进行模型的加载,但在Tensorflow框架下不存在对模型的改变,只原创 2020-09-19 09:56:31 · 989 阅读 · 2 评论 -
tensorflow 恢复(restore)模型的两种方式
0.前言首先我们要理解TensorFlow的一个规则,首先构建计算图(graph),然后初始化graph中的data,这两步是分开的。1.如何恢复模型有两种方式(这两种方式有比较大的不同):1.1 重新使用代码构建图举个例子(完整代码):def build_graph(): w1 = tf.Variable([1,3,10,15],name='W1',dtype=tf.float32) w2 = tf.Variable([3,4,2,18],name='W2',dtype=tf.转载 2020-08-27 00:46:55 · 2042 阅读 · 0 评论 -
tensorflow保存和读取模型(通过图.meta)
1、加载模型当我们基于checkpoint文件(ckpt)加载参数时,实际上我们使用Saver.restore取代了initializer的初始化checkpoint文件会记录保存信息,通过它可以定位最新保存的模型:checkpoint文件会记录保存信息,通过它可以定位最新保存的模型:ckpt = tf.train.get_checkpoint_state('./model/')print(ckpt)结果如下:tf.train.get_checkpoint_state('./model/转载 2020-08-15 16:09:26 · 4654 阅读 · 0 评论 -
Tensorflow模型保存、加载和Fine-tune(二)
前言尝试过迁移学习的同学们都知道,Tensorflow的模型保存加载有不同格式,使用方法也不一样,新手会觉得乱七八糟,所以本文做一个梳理。从模型的保存到加载,再到使用,力求理清这个流程。1. 保存Tensorflow的保存分为三种:1. checkpoint模式;2. pb模式;3. saved_model模式。1.1 先假设有这么个模型首先假定我们已经有了这样一个简单的线性回归网络结构:import tensorflow as tfsize = 10# 构建inputX = tf.pla转载 2020-08-09 19:24:44 · 594 阅读 · 0 评论 -
用TensorFlow教你手写字识别
1、MNIST数据集基于MNIST数据集实现手写字识别可谓是深度学习经典入门必会的技能,该数据集由60000张训练图片和10000张测试图片组成,每张均为28*28像素的黑白图片。关于数据集的获取,大家可以直接登录到官网(http://yann.lecun.com/exdb/mnist/)下载图1中4个压缩文件,或者关注本公众号后台回复“mnist数据集”获取,这里需要注意的是,下载后的数据集为二进制的。图1 MNIST数据集备注:笔者在网上看了不少相关文章,都提到要先用input_data.py代转载 2020-08-09 17:35:34 · 4418 阅读 · 1 评论 -
Tensorflow模型的保存和加载(一)
刚接触深度学习,Tensorflow模型的保存和加载尚不清楚,根据教程的翻译做一记录,不当之处敬请指正。原文地址:http://cv-tricks.com/tensorflow-tutorial/save-restore-tensorflow-models-quick-complete-tutorial/在本教程中,将作出如下讲解:I. Tensorflow模型是什么样的?II. 如何保存一个训练好的Tensoflow模型?III. 如何加载一个先前保存的Tensorflow模型?I转载 2020-08-09 16:30:54 · 235 阅读 · 0 评论 -
使用tensorflow2.0的深度学习方法拟合函数
1、拟合函数需要拟合的函数为摄氏度与华氏度的转换,转化的代码如下:def C2F: F = C*1.8+32 return Fprintf(C2F(38))100.42、深度学习代码废话不多说,直接上代码:import tensorflow as tfimport numpy as npfeature = np.array([0, 8, 15, 22], dtype=float)labels = np.array([32, 46.4, 59, 71.6], dtype=floa原创 2020-05-09 18:15:27 · 1359 阅读 · 0 评论 -
指数衰减学习率与自适应学习率
我正使用TensorFlow来训练一个神经网络。我初始化GradientDescentOptimizer的方式如下:init = tf.initialize_all_variables()sess = tf.Session()sess.run(init)mse = tf.reduce_mean(tf.square(out - out_))train_step = tf.train.Gra...转载 2019-08-05 05:14:27 · 732 阅读 · 2 评论 -
tf.train.AdamOptimizer()函数解析
tf.train.AdamOptimizer()函数是Adam优化算法:是一个寻找全局最优点的优化算法,引入了二次方梯度校正。tf.train.AdamOptimizer.__init__( learning_rate=0.001, beta1=0.9, beta2=0.999, epsilon=1e-08, use_locking=False, name='Adam')...原创 2019-08-05 04:47:23 · 28524 阅读 · 9 评论 -
Tensorflow学习笔记-模型保存与加载
保存模型时,文件格式有两种,ckpt和pb格式,这两种格式的模型区别是什么呢?首先看一下英文的解释。并且我们的学习中也要养成看英文文档的习惯,其一:老外写的东西通俗易懂,其二,在翻译时,每个人的英文理解不同,原汁原味的道理就没有了。The .ckpt is the model given by tensorflow which includes all theweights/paramete...转载 2019-07-22 21:51:39 · 209 阅读 · 0 评论 -
linux上部署tensorflow-gup
一、安装tensorflow-gpu 1.9.0TensorFlow官方帮助文档为Ubuntu 16.04提供五种安装方式,我选择原汁原味的第二种方式:Use pip in your system environment:安装指令没有太多值得讲究的地方,但如果你按照帮助文档去安装,由于天朝伟大的墙的杰作,网速慢如蜗牛,我保证你花一年时间也装不上。该怎么办呢?可以使用国外代理服务器,也可以使用...原创 2019-08-02 16:35:15 · 299 阅读 · 0 评论 -
tensorflow处理图片格式出现问题总结
tensorflow处理图片格式出现问题总结图片的后缀非jpg格式通过批量读取数据的后缀名,判断文件是否为所需要的后缀为jpg的格式的文件有了两种方法,一种通过代码脚本判断遍历文件的后缀修改文件,遍历文件脚本如下:#!/usr/bin/python # -*- coding: utf-8 -*-import osimport shutilimport sys'''####...原创 2018-11-20 17:24:57 · 1681 阅读 · 2 评论