tensorflow
风吹草地现牛羊的马
这个作者很懒,什么都没留下…
展开
-
解决安装tensorfow2.x网速太慢的问题
今天安装了一下tf2.3,网上的加速教程就一句话,pip install tensorflow-gpu==2.3 -i https://pypi.tuna.tsinghua.edu.cn/simple/用清华的镜像,结果我试了好几次都下载失败了。最后换了豆瓣的源一下子就下载下来了。pip install tensorflow-gpu==2.3 -i https://pypi.douban.com/simple所以以后清华的源下载不下来的时候多试试其他的源。阿里的源也行,pip install原创 2020-09-01 16:10:41 · 174 阅读 · 0 评论 -
TF中的负采样损失函数(word2vec中的负采样)
在训练word2vec的时候,为了预测目标词是哪个词,我们要使用softmax函数进行预测,也就是一个softmax多分类的问题(每个单词就是一类)。类似下面的式子p(oj∣wi)=ef(oj,wi)∑j=1∣V∣ef(oj,wi)(1)\tag{1} p(o_{j}|w_{i}) = {e^{f(o_{j}, w_{i})} \over \sum_{j = 1}^{|V|} e^{f(o_{j...原创 2019-12-05 15:16:46 · 2754 阅读 · 0 评论 -
TensorFlow官网上word2vec产生batch的函数讲解。
完整的代码:Githubnum_skips与skip_window之间的关系很多人都不理解num_skips与skip_window之间的关系,skip_window这个参数限制了采样的范围,skip_window=1就是在输入单词的左右各一个单词范围内采样,skip_dow=2就是在输入单词的左右各2个单词的范围内采样,num_skips参数是在skip_window规定的范围内采样多少个,...原创 2019-11-19 11:57:19 · 545 阅读 · 0 评论 -
理解 Word2Vec 之 Skip-Gram 模型
理解 Word2Vec 之 Skip-Gram 模型import timeimport numpy as npimport tensorflow as tfimport randomfrom collections import Counterwith open('text8') as f: text = f.read()# 定义函数来完成数据的预处理def prep...原创 2019-11-18 20:00:21 · 159 阅读 · 0 评论 -
jupyter notebook添加conda中的环境
激活你的环境conda activate 你的环境名安装ipykernelconda install ipykernel将环境写入notebook的kernel中python -m ipykernel install --user --name conda环境名称 --display-name "jupyter环境名"以我自己的安装举例:然后在jupyter的服务下面找到改变...原创 2019-10-21 13:24:39 · 980 阅读 · 0 评论 -
TensorFlow常用函数介绍
后续会慢慢补充其他函数。tf.squeeze()squeeze( input, axis=None, name=None, squeeze_dims=None)该函数返回一个张量,这个张量是将原始input中所有维度为1的那些维都删掉的结果。比如numpy中的行向量和列向量(若不懂numpy中的行向量与列向量,可以看博客:Numpy中的行向量与列向量),...原创 2019-10-21 12:31:18 · 159 阅读 · 0 评论 -
tensorflow获取可用运算设备(CPU,GPU)
在python解释器中运行下面两句会打印出当前可用的设备,包括CPU&GPU。from tensorflow.python.client import device_libprint(device_lib.list_local_devices())结果[name: "/device:CPU:0"device_type: "CPU"memory_limit: 268435456loc...原创 2019-04-03 16:08:28 · 1014 阅读 · 0 评论 -
tensorflow gpu CuDNN 版本不兼容问题( Process finished with exit code -1073740791 (0xC0000409))
运行CNN网络时,报错。Loaded runtime CuDNN library: 7500 (compatibility version 7500) but source was compiled with 7003 (compatibility version 7000).Check failed: stream->parent()->GetConvolveAlgorithms...原创 2019-04-03 17:07:27 · 1825 阅读 · 2 评论 -
Internal Error: Blas GEMM launch failed 问题
Tensorflow程序运行中出现"Interal Error:Blas GEMM launch failed.",此错误主要是由于程序运行时GPU的空间不足而引起的。解决办法是手动为Tensorflow分配GPU的使用率:参加博客:https://blog.csdn.net/mch2869253130/article/details/88863779...原创 2019-04-03 19:07:56 · 1936 阅读 · 0 评论 -
tf.nn.dynamic_rnn返回值详解
函数原型tf.nn.dynamic_rnn( cell, inputs, sequence_length=None, initial_state=None, dtype=None, parallel_iterations=None, swap_memory=False, time_major=False, scope=Non...原创 2019-04-13 11:48:58 · 685 阅读 · 1 评论 -
Tensorlow 中的常量值函数:tf.zeros()、tf.ones()、tf.fill()和tf.constant()
Tensors常量值函数tf.constant(value, dtype=None, shape=None, name='Const')tf.zeros(shape, dtype=tf.float32, name=None)tf.zeros_like(tensor, dtype=None, name=None)tf.ones(shape, dtype=tf.float32, name=N...原创 2019-04-13 16:29:26 · 19053 阅读 · 0 评论 -
TensorFlow函数:tf.split
tf.splitsplit( value, num_or_size_splits, axis=0, num=None, name='split')参数:value:要分割的 Tensor。num_or_size_splits:如果为一个标量,那么被分割的Tensor的第axis维度的值必须能被num_or_size_splits整除;否则沿分割...原创 2019-04-13 17:24:55 · 559 阅读 · 0 评论 -
tf.train.saver()模型的保存与恢复
模型的保存将训练好的模型参数保存起来,以便以后进行验证或测试,这是我们经常要做的事情。tf里面提供模型保存的是tf.train.Saver()模块。模型保存,先要创建一个Saver对象:如saver=tf.train.Saver()在创建这个Saver对象的时候,有一个参数我们经常会用到,就是 max_to_keep 参数,这个是用来设置保存模型的个数,默认为5,即 max_to_keep...转载 2019-04-26 15:27:44 · 1294 阅读 · 0 评论 -
tf.Session.run()函数参数fetches和feed_dict解析
函数原型run( fetches, feed_dict=None, options=None, run_metadata=None)参数说明fetches:单个图元素,图元素列表或字典,字典元素其值是图元素或图元素列表。feed_dict:将图元素映射到值的字典。返回值如果fetches是单个图元素则返回单个值,如果fetches是列表则返回值列...原创 2019-04-26 15:58:14 · 7238 阅读 · 1 评论 -
tf.nn.embedding_lookup()的用法
一般在NLP中经常用到这个函数。在NLP中,词汇表中存储了所有单词的word embedding,这个词汇表中的word embedding可以是通过word2vec算法训练好的,但是我们的语料库中的文本都是按照一篇篇文档存储的,而且语料库中存储的也只是一篇篇文档的对应单词的id,而不是embedding。故需要把文档中每个词都通过id映射成embedding向量,这个函数就是做这件事的。函数原...原创 2019-04-18 17:40:25 · 926 阅读 · 0 评论 -
tf.sequence_mask
函数原型:sequence_mask( lengths, maxlen=None, dtype=tf.bool, name=None)参数:lengths:整数张量,其所有值小于等于maxlen。maxlen:标量整数张量,返回张量的最后维度的大小;默认值是lengths中的最大值。dtype:结果张量的输出类型。name:操作的名字。返回值:...转载 2019-04-19 10:53:49 · 1161 阅读 · 0 评论 -
TensorFlow学习笔记:graph、session和op
graph即tf.Graph() ,session即tf.Session(),很多人经常将两者混淆,其实二者完全不是同一个东西。graph定义了计算方式,是一些加减乘除等运算的组合,类似于一个函数。它本身不会进行任何计算,也不保存任何中间计算结果。session用来运行一个graph,或者运行graph的一部分。它类似于一个执行者,给graph灌入输入数据,得到输出,并保存中间的计算结果。同...转载 2019-04-03 11:57:11 · 406 阅读 · 0 评论 -
tf.concat与tf.stack的区别
import tensorflow as tfa = tf.constant([[1,2,3],[4,5,6]])b = tf.constant([[7,8,9],[10,11,12]])c1 = tf.concat([a,b],axis=0)s1 = tf.stack([a,b], axis=0)c2 = tf.concat([a,b],axis=1)s2 = tf.stack([...原创 2019-04-12 12:46:32 · 2125 阅读 · 0 评论 -
tf.shape()和x.get_shape()
tf.shape()tf.shape()是获取张量的大小的,其中的参数可以是tensor,list,array,返回一个list。import tensorflow as tfimport numpy as np a_array=np.array([[1,2,3],[4,5,6]])b_list=[[1,2,3],[3,4,5]]c_tensor=tf.constant([[1,2,...转载 2019-03-29 22:00:40 · 596 阅读 · 0 评论 -
TF girls系列(3)之CNN网络的搭建
CNN的网络结构:conv+relu–> conv+relu+pool–>conv+relu–> conv+relu+pool–>fc+relu–>fc。原创 2019-04-04 17:46:12 · 276 阅读 · 0 评论 -
TF girs系列(4)之CNN网络计算框架
dp.py 中定义了CNN网络# 新的 refined api 不支持 Python2import tensorflow as tffrom sklearn.metrics import confusion_matriximport numpy as npclass Network(): def __init__(self, train_batch_size, test_ba...原创 2019-04-04 19:17:33 · 306 阅读 · 0 评论 -
TensorFlow中定义Tensor时的参数name有什么用?
在某些地方,我看到了语法,其中变量用name初始化,有时没有name。 例如:# With namex1 = tf.Variable(0, name="X1")# Withoutone = tf.constant(1)那么变量名x1和X1有什么区别呢?name参数是可选的(您可以创建带或不带它的变量和常量),并且您在程序中使用的变量不依赖于它。 name在以下几个方面很有帮助:当...转载 2019-04-10 10:37:58 · 3146 阅读 · 0 评论 -
TensorFlow中global_step的简单分析
global_step在滑动平均、优化器、指数衰减学习率等方面都有用到,这个变量的实际意义非常好理解:代表全局步数,比如在多少步该进行什么操作,现在神经网络训练到多少轮等等,类似于一个钟表。import tensorflow as tfimport numpy as np x = tf.placeholder(tf.float32, shape=[None, 1], name='x')y...转载 2019-04-10 11:02:58 · 389 阅读 · 0 评论 -
TF girls系列(1)搭建二层全连接神经网络
搭建的是如下图所示的二层神经网络。输入层的神经元个数由图片的维度决定,教程中使用的是32x32x3的彩色图片,然后灰度化,得到32x32的灰度图,故输入层神经元个数是1024个,隐藏层神经元个数可以自己指定,教程中指定为128个,由于是数字识别任务,故有10个数字,故输出层神经元个数为10。为了考虑内存的限制,本教程分批量训练图片,每次100张,故每一次训练,输入层矩阵为100x102...原创 2019-04-01 12:27:30 · 915 阅读 · 0 评论 -
TensorFlow 中的 tf.app.flags 命令行参数解析模块
说道命令行参数解析,就不得不提到 python 的 argparse 模块,详情可参考博主之前的一篇博客:python argparse 模块命令行参数解析。在阅读相关工程的源码时,很容易发现 tf.app.flags 模块的身影。其作用与 python 的 argparse 类似。直接上代码实例,新建一个名为 test_flags.py 的文件,内容如下: #coding:utf-8 ...转载 2019-03-27 20:32:01 · 308 阅读 · 0 评论 -
TF girls系列(5)之CNN网络的优化
主要修改的是TF girls系列(4)中的dp.py文件。代码中增加了对regularization、dropout、optimization和learning rate decay的代码。其中regularization、dropout都是为了防止模型过拟合,optimizaiton是为了让模型训练的更快,以及更好的收敛到全局最优,learning rate decay也是为了模型更好的收敛...原创 2019-04-06 16:15:59 · 245 阅读 · 0 评论 -
TF girls系列序言
本系列都是跟着哲的王这位在美国的大佬的TF girls教程做的,代码都是他的,自己只是加了一点自己的注释和理解。哲的王在B站上面有这个系列的教程视频,搜索即可,Github上也有他自己的分享。Gtihub的网址:https://github.com/CreatCodeBuild/TensorFlow-and-DeepLearning-Tutorial只需要看seaon1_Tensorflow1...原创 2019-04-06 16:57:18 · 160 阅读 · 0 评论 -
tensorflow中使用tf.ConfigProto()配置Session运行参数&&GPU设备指定
tf.ConfigProto一般用在创建session的时候。用来对session进行参数配置config = tf.ConfigProto(log_device_placement=True, allow_soft_placement=True)""" 参数说明:log_device_placement: 设置tf.ConfigProto()中参数log_device_placeme...原创 2019-03-28 10:39:27 · 3347 阅读 · 1 评论 -
Tensorboard的可视化之name_space和summary
name_scopename_scope:让生成的汇总有层次性典型的TensorFlow可以有数以千计的节点,如此多而难以一下全部看到,甚至无法使用标准图表工具来展示。为了简单起见,我们为变量名划定范围,并且可视化把该信息用于在图表中的节点上定义一个层级。默认情况下,只有顶层节点会显示。在fc1_model这个命名空间下,定义了三个操作: matmul,+,relu。生成的tensorbo...原创 2019-04-01 18:52:16 · 363 阅读 · 0 评论 -
TF girls系列(2)使用tensorboard可视化数据
在看本篇博文之前先看上一篇博文:https://blog.csdn.net/mch2869253130/article/details/88954628# -*- coding: utf-8 -*-"""Created on Wed Mar 27 19:38:44 2019@author: macheng"""from __future__ import print_functio...原创 2019-04-01 19:13:44 · 659 阅读 · 0 评论 -
TF-卷积函数 tf.nn.conv2d 介绍
tf.nn.conv2d是TensorFlow里面实现卷积的函数,参考文档对它的介绍并不是很详细,实际上这是搭建卷积神经网络比较核心的一个方法,非常重要。tf.nn.conv2d(input, filter, strides, padding, use_cudnn_on_gpu=None, name=None)除去name参数用以指定该操作的name,与方法有关的一共五个参数:第一个参...转载 2019-04-02 11:57:35 · 189 阅读 · 0 评论 -
Tensorflow搭建LSTM中参数的理解
https://blog.csdn.net/weixin_41041772/article/details/88032093https://blog.csdn.net/yyb19951015/article/details/79740869?utm_source=blogxgwz8https://blog.csdn.net/ZJRN1027/article/details/80301039...转载 2019-04-08 16:54:08 · 2231 阅读 · 0 评论 -
Win10+1050Ti配置tensorflow-gpu教程 (解决1050ti配置cuda失败的问题)
Win10+1050Ti配置Tensorflow教程笔者使用的是联想Y7000笔记本,显卡是1050Ti,在安装TensorFlow时,发现自己的显卡型号并不在NVDIA官网上支持型号的名单中,于是网上看了很多教程,很多都有问题(或者不适用于我这台电脑),踩了许多坑,总结很多之后最终配置成功,在这留下详细步骤。NVDIA官网支持的显卡型号可以看到并没有1050Ti的支持,然而其实是支持的(...转载 2019-03-29 12:55:13 · 14290 阅读 · 3 评论 -
Neural Summarization by Extracting Sentences and Words论文阅读笔记(CNN在NLP中的应用)
TF卷积函数 tf.nn.conv2d 介绍首先介绍一下tensorflow中卷积函数tf.nn.conv2d()。tf.nn.conv2d(input, filter, strides, padding, use_cudnn_on_gpu=None, name=None)主要介绍input和filter这两个参数。input:是一个4维的tensor,维度为[batch,in_hei...原创 2019-04-15 17:23:46 · 834 阅读 · 0 评论 -
Tensorflow在win10上安装cpu版本
参考下面三个教程就可以了https://blog.csdn.net/Chasel_s/article/details/80025111 将tensorflow嵌入pycharmhttps://blog.csdn.net/Eppley/article/details/79297503https://blog.csdn.net/m0_37259197/article/details/814...原创 2019-03-22 09:28:31 · 428 阅读 · 0 评论