tensorflow
strivinging
故天将降大任于斯人也,必先苦其心志,劳其筋骨,饿其体肤,空乏其身,行拂乱其所为也,所以动心忍性,增益其所不能。
展开
-
tf.nn.top_k() tf.nn.in_top_k()
1..中文 tf.nn.top_k(input, k, name=None) 解释:这个函数的作用是返回 input 中每行最大的 k 个数,并且返回它们所在位置的索引。 #!/usr/bin/env python # -*- coding: utf-8 -*- import tensorflow as tf import numpy as np input转载 2017-09-24 13:57:51 · 498 阅读 · 0 评论 -
神经网络机器翻译seq2seq+attention(nlp实践3)
本文主要是对上篇没加attention的一个补充,attention实际上是模仿人类翻译的过程,在翻译一个句子时,有时需要根据上下文判断当前要翻译的单词的含义,那么就需要去时时查看下原本的句子,因为句子中有些部分会对当前单词预测的影响很大,那么得把这样的信息加入到预测当前单词的过程中。 假如encoder的输入为[X1,...,Xj,...,XTx],即输入句子的最大长度为s,不够时paddin...原创 2018-12-19 19:39:01 · 1364 阅读 · 0 评论 -
Tensorflow 模型文件结构、模型中Tensor查看
tensorflow训练后保存的模型主要包含两部分,一是网络结构的定义(网络图),二是网络结构里的参数值。 1. .meta文件 .meta 文件以 “protocol buffer”格式保存了整个模型的结构图,模型上定义的操作等信息。 这个文件保存了网络结构的定义。 例如 model.ckpt-3072.meta ,大小是 2.9 MB。 2. .data-00000-of-0...转载 2018-12-19 18:49:48 · 968 阅读 · 0 评论 -
tensorflow 笔记8:RNN、Lstm源码,训练代码输入输出,维度分析
tensorflow 官网信息:https://www.tensorflow.org/api_docs/python/tf/contrib/rnn/BasicLSTMCell tensorflow 版本:1.10 如有错误还望指正,一起探讨; 当前层各个参数含义: Tensorflow 中RNN单个时刻计算流程: Tensorflow 中 lstm 单个时刻计算流...转载 2018-12-19 18:27:04 · 2100 阅读 · 2 评论 -
学会区分RNN的output和state
写这篇文章的起因是,有人问调用 outputs, last_state = tf.nn.static_rnn(cell, inputs) 之后,last_state 和 outputs[-1] 相等吗?如果不想等,为什么会不等呢? 其实这也是学习 RNN 的一大难点。我个人认为,学习 RNN 最难的地方就是弄明白它的输入和输出是什么。一个简单的回答是,对于一个 RNN 单元,它每次接受一个当前输...转载 2018-12-19 18:06:04 · 840 阅读 · 3 评论 -
神经网络机器翻译seq2seq(nlp实践2)
本实践采用的是IWLST TED演讲en_zh数据集,基于tensorflow 实战google深度学习框架(第二版)一书所进行的实验,大部分代码直接是用的书上的,为了更好地巩固知识,所以整理成博客。 首先从相关网站上下载数据集,解压,代码如下所示: wget https://wit3.fbk.eu/archive/2015-01//texts/en/zh/en-zh.tgz tar xzv...原创 2018-12-19 14:39:48 · 2101 阅读 · 1 评论 -
tensorflow 学习】tf.get_variable()和tf.Variable()的区别
1. tf.Variable()W = tf.Variable(<initial-value>, name=<optional-name>)1用于生成一个初始值为initial-value的变量。必须指定初始化值2.tf.get_variable() W = tf.get_variable(name, shape=None, dtype=tf.float32, initia...转载 2018-06-25 11:16:26 · 237 阅读 · 0 评论 -
LInux CUDA环境配置
1.安装toolkit(1)cd /home/CUDA_train/software/cuda4.1(2)./cudatoolkit_4.1.28_linux_64_rhel6.x.run指定安装目录(3)配置cuda toolkit环境变量(a)vim ~/.bashrc(b)添加如下行,用于添加cuda bin的路径到环境变量PATHexport PATH=$PATH:/usr/local/c...转载 2018-04-12 18:30:50 · 7216 阅读 · 0 评论 -
tensorflow实现AIchallenger scene classification baseline
主要是为了写出pipeline,至于模型啥的都可以自己改的,有什么问题可以评论,不多说了,放代码#!/usr/bin/env python # -*- coding: utf-8 -*- # @Time : 2018/4/7 16:18 # @Author : Zehan Song # @Site : # @File : cnn.py # @Software: PyCharm ...原创 2018-04-07 23:58:41 · 669 阅读 · 3 评论 -
tensorflow的输入处理样例
# Copyright 2016 The TensorFlow Authors. All Rights Reserved. # # Licensed under the Apache License, Version 2.0 (the "License"); # you may not use this file except in compliance with the License. # Y...原创 2018-04-07 15:46:10 · 2453 阅读 · 0 评论 -
tensorflow最佳实践样例(纯粹为了熟悉语法)
下面是配置文件,建议单独弄一个文件,可以随时改。#!/usr/bin/env python # -*- coding: utf-8 -*- # @Time : 2018/4/6 23:05 # @Author : Zehan Song # @Site : # @File : configs.py # @Software: PyCharm import warnings cla...原创 2018-04-07 15:07:29 · 394 阅读 · 0 评论 -
查看 CUDA cudnn 版本
https://medium.com/@changrongko/nv-how-to-check-cuda-and-cudnn-version-e05aa21daf6c cuda 版本 cat /usr/local/cuda/version.txt cudnn 版本 cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A转载 2017-12-06 19:12:25 · 1197 阅读 · 0 评论 -
TensorFlow的convert_variables_to_constants函数
前面介绍了通过使用tf.train.Saver函数来保存TensorFlow程序的参数,但是,在使用tf.train.Saver函数保存模型文件的时候,是保存所有的参数信息,而有些时候我们并不需要所有的参数信息。我们只需要知道神经网络的输入层经过前向传播计算得到输出层即可,所以在保存的时候,我们也不需要保存所有的参数,以及变量的初始化、模型保存等辅助节点信息与迁移学习类似。之前使用tf.train转载 2017-12-05 10:28:43 · 2491 阅读 · 2 评论 -
tf.nn.sparse_softmax_cross_entropy_with_logits
tf.nn.sparse_softmax_cross_entropy_with_logits(logits, labels, name=None) 计算logits 和 labels 之间的稀疏softmax 交叉熵 度量在离散分类任务中的错误率,这些类之间是相互排斥的(每个输入只能对应唯一确定的一个类)。举例来说,每个CIFAR-10 图片只能被标记为唯一的一个标签:一张图片可能是一转载 2017-09-15 14:34:35 · 18022 阅读 · 0 评论 -
将图像转为TFRecord文件并读取TFRecord文件
1 TFRecord格式介绍 对于大量的图像数据,TensorFlow提供了一种统一的格式来存储数据——TFRecord。TFRecord文件是以二进制进行存储数据的,适合以串行的方式读取大批量数据,虽然它的内部格式复杂,但是它可以很好地利用内存,方便地复制和移动,更符合TensorFlow执行引擎的方式。 TFReocrd文件中的数据都是通过tf.train.Example Pro转载 2017-09-18 20:58:08 · 9834 阅读 · 5 评论 -
由浅入深之Tensorflow(3)----数据读取之TFRecords
由浅入深之Tensorflow(3)----数据读取之TFRecords 转载自http://blog.csdn.net/u012759136/article/details/52232266 原文作者github地址 概述 关于Tensorflow读取数据,官网给出了三种方法: 供给数据(Feeding): 在TensorFlow程序运行的每一步, 让Python转载 2017-09-19 19:08:53 · 455 阅读 · 0 评论 -
tf.reduce_mean与tf.reduce_min
tf.reduce_mean reduce_mean( input_tensor, axis=None, keep_dims=False, name=None, reduction_indices=None) Defined in tensorflow/python/ops/math_ops.py. See the guide: Math > R原创 2017-09-22 21:57:00 · 5055 阅读 · 2 评论 -
基于循环神经网络的神经语言模型(nlp实践1)
本实践采用的PTB数据集,基于tensorflow 实战google深度学习框架(第二版)一书所进行的实验,代码直接是用的书上的,为了更好地巩固知识,所以整理成博客。 首先得从Tomas Mikolov网站上下载PTB数据集,然后解压并进入文件夹中, wget http://www.fit.vutbr.cz/~imikolov/rnnlm/simple-examples.tgz tar x...原创 2018-12-17 16:09:44 · 843 阅读 · 2 评论