![](https://img-blog.csdnimg.cn/20201014180756754.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
TensorFlow&Keras
TensorFlow&Keras
星之所望
兴趣使然的AI工程师
展开
-
神经网络优化-滑动平均
1、概述在采用随机梯度下降(SGD)算法训练神经网络时,使用滑动平均模型可以一定程度增强参数的稳定性,提高最终模型在测试数据上的表现,使模型在测试数据上更健壮。在实际的神经网络计算中,实际使用的是经过滑动平均后的值实际效果:滑动平均追随输入参数的变化而变化滑动平均的表示公式为影子 =衰减率*影子+ ( 1 -衰减率) *参数或滑动平均值 = 衰减率 * 滑...转载 2018-11-10 10:04:03 · 670 阅读 · 0 评论 -
加载MNIST报错:[WinError 10060] 由于连接方在一段时间后没有正确答复解决办法
转载:https://blog.csdn.net/landcruiser007/article/details/79346982tensorflow加载mnist数据集,一些书上和博客中的代码如下:from tensorflow.examples.tutorials.mnist import input_datamnist=input_data.read_data_sets("MNIS...转载 2018-11-10 16:59:04 · 1916 阅读 · 0 评论 -
《TensorFlow 实战Google深度学习框架》中MNIST数字识别问题程序的实现与思考
书上的程序:import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_data__author__: str = 'zhangkun'INPUT_NODE = 784 # 输入节点数OUTPUT_NODE = 10 # 输出节点数LAYER1_NODE = 500 # 隐层节点...原创 2018-11-10 20:25:07 · 280 阅读 · 0 评论 -
tensorflow框架学习(一)placeholder 与variable
1. placeholder —占位符参考 http://www.tensorfly.cn/tfdoc/api_docs/python/io_ops.htmlplaceholder, 译为占位符,官方说法:”TensorFlow provides a placeholder operation that must be fed with data on execution.” 即必须在执行...转载 2018-11-13 10:38:06 · 148 阅读 · 0 评论 -
《TensorFlow 实战Google深度学习框架》中MNIST数字识别问题程序的重构
前馈神经网络计算部分#mnist_inference.pyimport tensorflow as tfINPUT_NODE = 784 # 输入节点数OUTPUT_NODE = 10 # 输出节点数LAYER1_NODE = 500 # 隐层节点数def get_weight_variable(shape, regularizer): weights = tf...原创 2018-11-14 09:32:09 · 185 阅读 · 0 评论 -
tensorflow 中 variable_scope 与name_scope函数解析
前言还是那句老话,学习tensorflow最好的方法就是阅读他的官方API手册。知乎上面一个有意思的问答:tensorflow里面name_scope, variable_scope等如何理解?先引用知乎上答主的话:主要是因为 变量共享 的需求。而这就不得不谈到tf. get_variable()了。因为如果使用Variable 的话每次都会新建变量,但是大多数时候我们是希望一些...转载 2018-11-16 22:06:08 · 159 阅读 · 0 评论 -
TensorFlow中get_variable共享变量调用
import tensorflow as tfwith tf.variable_scope('v_scope',reuse=True) as scope1: Weights1 = tf.get_variable('Weights', shape=[2,3]) bias1 = tf.get_variable('bias', shape=[3])# 下面来共享上面已经定义好的...转载 2018-11-17 09:20:34 · 342 阅读 · 0 评论 -
window10下安装tensorflow1.11+cuda9+cuDnn7+anaconda3-5.3
安装Anaconda和Tensorflow一开始使用pycharm自带的第三方库安装方法安装TensorFlow1.12,但是无论如何都提示缺少动态链接库,重装了多遍vc++2015都没有用,实在找不到解决方法的时候,遇到了救星Anaconda以下安装参考:https://blog.csdn.net/luffysam/article/details/82949864步骤1、从官...原创 2018-11-22 22:43:40 · 850 阅读 · 1 评论 -
tensorflow载入报错Process finished with exit code -1073741819 (0xC0000005)
我是因为安装opencv导致的错误,幸好有备份,用原来没有装opencv的虚拟环境就行,下面的文章有参考价值https://blog.csdn.net/peach_orange/article/details/82777448原创 2018-11-26 15:15:32 · 1417 阅读 · 3 评论 -
tf.gfile.FastGFile
tf.gfile.FastGFile(path,decodestyle)函数功能:实现对图片的读取。函数参数:(1)path:图片所在路径,注意带后缀(2)decodestyle:图片的解码方式。(‘r’:UTF-8编码; ‘rb’:非UTF-8编码)!import matplotlib.pyplot as pltimport tensorflow as tf#tf.gfi...转载 2018-11-27 07:43:04 · 720 阅读 · 0 评论 -
TensorFlow和Keras解决大数据量内存溢出问题
内存溢出问题是参加kaggle比赛或者做大数据量实验的第一个拦路虎。以前做的练手小项目导致新手产生一个惯性思维——读取训练集图片的时候把所有图读到内存中,然后分批训练。其实这是有问题的,很容易导致OOM。现在内存一般16G,而训练集图片通常是上万张,而且RGB图,还很大,VGG16的图片一般是224x224x3,上万张图片,16G内存根本不够用。这时候又会想起——设置batch,但是那个b...转载 2018-11-28 16:01:42 · 646 阅读 · 0 评论 -
TensorFlow 制作自己的TFRecord数据集 读取、显示及代码详解
准备图片数据笔者找了2类狗的图片, 哈士奇和吉娃娃, 全部 resize成128 * 128大小如下图, 保存地址为D:\Python\data\dog每类中有10张图片现在利用这2 类 20张图片制作TFRecord文件制作TFRECORD文件1 先聊一下tfrecord, 这是一种将图像数据和标签放在一起的二进制文件,能更好的利用内存,在tensorfl...转载 2018-11-28 21:19:08 · 229 阅读 · 0 评论 -
Tensorboard生成的网址(localhost或者127.0.0.1)打不开的解决方法
一、因为我是用anaconda安装的TensorFlow,所以第一步注意:虚拟空间的名字叫TensorFlow,也可以叫ABCD,TensorFlow是安装在这个虚拟空间里的二、启动Tensorboard启动tensorboard服务,注意最后的--host=127.0.0.1,也可以改成--host=localhost,不输入可能无法使用Tensorboard让这个程序保...原创 2018-12-07 10:30:30 · 1560 阅读 · 0 评论 -
keras数据集拓展
from keras.preprocessing.image import ImageDataGenerator, array_to_img, img_to_array, load_img datagen = ImageDataGenerator( rotation_range=40, width_shift_range=0.2, height...转载 2019-02-03 23:45:11 · 319 阅读 · 0 评论 -
keras 预测采坑
训练数据集如果经过了# x_test = x_test.astype('float32')# x_test /= 255处理,预测用数据也要经过同样的处理....原创 2019-03-24 13:19:26 · 497 阅读 · 0 评论 -
keras预测函数采坑实录
使用两种方法构建模型,一种是如下所示方法,构建一个VGG16网络: model = Sequential() model.add(Conv2D(32, (3, 3), strides=(1, 1), input_shape=(299, 299, 3), padding='same', activation='relu', kernel...原创 2019-03-24 17:32:07 · 2924 阅读 · 0 评论 -
keras yolov3 Could not create cudnn handle: CUDNN_STATUS_ALLOC_FAILED
训练、测试Tensorflow、Keras代码时,出现could not create cudnn handle: CUDNN_STATUS_NOT_INITIALIZED、error retrieving driver version: Unimplemented: kernel reported driver version not implemented on Windows、could n...转载 2019-03-27 16:26:20 · 9645 阅读 · 11 评论 -
windows10+keras下的yolov3的快速使用及自己数据集的训练
引用:https://blog.csdn.net/u012746060/article/details/81183006#commentsedit由于这篇大牛的文章有一点小问题,所以把其中的小问题修正之后,自己发布一篇,一下为正文:一、环境要求 tensorflow-gpu keras pycharm二、快速使用1、下载yo...原创 2019-03-27 17:17:04 · 3253 阅读 · 2 评论 -
keras使用中,val_acc和acc值不同步的思考
在一个比较好的数据集中,比如在分辨不同文字的任务中,一下是几个样本使用VGG19,vol_acc和acc基本是同步保持增长的,比如40/40 [==============================] - 23s 579ms/step - loss: 1.3896 - acc: 0.95 - val_loss: 1.3876 - val_acc: 0.95Epoch 13/1...原创 2019-05-30 23:36:48 · 8406 阅读 · 1 评论 -
windows安装tensorflow出现:动态链接库(DLL)初始化例程失败和No module named ‘_pywrap_tensorflow_internal‘
我的配置:win10+Anaconda3-4.4.0+python3.6在公司装了tensorflow的gpu版本,想着回来也需要自己学习,就在自己的老机子上装个cpu版本,没想到一模一样的流程却报错:(1)ImportError: DLL load failed: 动态链接库(DLL)初始化例程失败;(2)ModuleNotFoundError: No module named '_...转载 2019-06-12 23:23:02 · 1076 阅读 · 0 评论 -
windows版TensorFlow最优安装,使用AVX2指令集
通常我们运行TensorFlow会报告如下信息,意思是你的CPU支持AVX2指令集,但TensorFlow的二进制版本没有使用2019-02-14 15:44:41.989265: I T:\src\github\tensorflow\tensorflow\core\platform\cpu_feature_guard.cc:141] Your CPU supports instruction...转载 2019-06-13 14:23:08 · 713 阅读 · 0 评论 -
tensorflow中 tf.reduce_mean函数
tf.reduce_mean 函数用于计算张量tensor沿着指定的数轴(tensor的某一维度)上的的平均值,主要用作降维或者计算tensor(图像)的平均值。reduce_mean(input_tensor, axis=None, keep_dims=False, name=None,...转载 2020-02-11 18:52:54 · 132 阅读 · 0 评论 -
tensorflow的tf.train.Saver()
tensorflow相比于keras的保存要麻烦许多。保存:with tf.Session() as sess: saver = tf.train.Saver(max_to_keep=20) saver.save(sess, os.path.join(train_output_dir, "model"), global_step=step)实际保存的是sess中的值,...原创 2020-02-11 20:08:38 · 350 阅读 · 0 评论 -
TensorFlow 中的identity()函数
identity:n.身份; 本身; 本体; 特征; 特有的感觉(或信仰); 同一性; 相同; 一致;identity的意思是自身的意思,简单说就是赋值。x = tf.Variable(0.0)y=x和下面的:x = tf.Variable(0.0)y=tf.identity(x)的区别在于,x是tensor类型,直接利用=只是拷贝内存,而y不会作为一个ten...转载 2020-02-11 23:10:34 · 222 阅读 · 0 评论 -
终于弄懂tf.reduce_sum()函数和tf.reduce_mean()函数
版权声明:本文为CSDN博主「不想秃顶还想当程序猿」的原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接及本声明。原文链接:https://blog.csdn.net/weixin_42149550/article/details/98759006参考博客:1.https://www.zhihu.com/question/51325408/answer/12542...转载 2020-02-13 20:30:47 · 1623 阅读 · 0 评论 -
【 TensorFlow】查看tensor变量的值
在使用tensorflow的过程中,有时候我们需要知道中间变量tensor的值,这可以帮助我们查看中间结果,调试程序。但是你会发现,tensor直接打印,输出的是数据类型、形状等等的信息,无法打印变量的值,如下图所示:因此,要打印输出tensor的值,需要借助class tf.Session, class tf.InteractiveSession。因为我们在建立graph的时候,只建立ten...原创 2020-02-13 21:21:37 · 2376 阅读 · 0 评论 -
TensorFlow实战:LSTM的结构与cell中的参数
一些参数 训练的话一般一批一批训练,即让batch_size 个句子同时训练; 每个句子的单词个数为num_steps,由于句子长度就是时间长度,因此用num_steps代表句子长度。 在NLP问题中,我们用词向量表示一个单词(一个数基本不能表示一个词,大家应该都知道的吧,可以去了解下词向量),我们设定词向量的长度为wordvec_size。 LSTM结构中是一...转载 2020-02-15 17:09:21 · 1564 阅读 · 0 评论 -
tensorboard 生成的网址不能正常打开访问
最近学习 TensorFlow 中可视化助手 Tensorboard,但是一切设置好后,网址总是打不开,显示拒绝此连接。本篇文章将帮助解决这个问题。首先,应该确保自己的电脑名称为英文,不能出现中文,否则生成的日志文件后缀将显示乱码 然后,浏览器最好选用“谷歌浏览器” 不然将导致,生成的网址可能打不开 然后,确保输入的命令没有错 tensorboard --lo...转载 2020-03-14 11:13:33 · 972 阅读 · 0 评论 -
ensorflow: tf.stack和tf.unstack的区别,实例解释
将两个N维张量列表沿着axis轴组合成一个n+1维的张量,例如下面tensor(2,3)与tensor1(2,3),一个y(2,2,3)import tensorflow as tftensor=[[1,2,3],[4,5,6]]tensor2=[[10,20,30],[40,50,60]]y=tf.stack([tensor,tensor2])y2=tf.stack([tensor...转载 2020-03-14 15:52:06 · 159 阅读 · 0 评论 -
tf的保存和读取
with tf.Session() as sess: sess.run(tf.global_variables_initializer()) # 加载训练集和验证集 img, img_label = load_satetile_image(batch_size, dataset='train') img_valid, img_valid_label = load_...原创 2020-03-20 10:07:39 · 228 阅读 · 0 评论 -
Tensorflow模型的保存和加载
刚接触深度学习,Tensorflow模型的保存和加载尚不清楚,根据教程的翻译做一记录,不当之处敬请指正。原文地址:http://cv-tricks.com/tensorflow-tutorial/save-restore-tensorflow-models-quick-complete-tutorial/在本教程中,将作出如下讲解: I. Tensorflow模型是什么样的?...转载 2020-03-15 09:15:56 · 153 阅读 · 0 评论