2017年11月_沉香屑_

原创 Tensorflow关于feed的问题

feed可以分成两种：一种是给占位符喂值，另外一种给模型中的变量喂值。下面的代码就是第二种情况，可以看出，虽然模型初始化变量b为2，但是当我feed_dict={b:1}时，a+b结果为2，而不是3。import tensorflow as tfa = tf.Variable(1)b = tf.Variable(2)sum = a+binit = tf.global_variables_i

2017-11-29 20:27:51 1633 1

错误一ValueError: Initializer for variable rnn/basic_rnn_cell/kernel/ is from inside a control-flow construct, such as a loop or conditional. When creating a variable inside a loop or conditional, use ...

2017-11-22 17:03:00 4693

原创 TensorBoard使用

Tensorboard使用方法Tensorboard的使用可大体归结为如下几步：　　1) 在构建graph的过程中，记录你想要追踪的Tensor　　2) Session会话运行上一步骤中的记录　　3) 查看可视化效果一个用三层神经网络实现回归问题的小例子。import tensorflow as tfimport numpy as npimport matplotlib.pyplot as pl

2017-11-20 19:05:23 480

原创 Windows10下安装TensorFlow（CPU、GPU）

安装步骤简洁安装TensorFlow-CPU版本（简单）：1）下载并安装Anaconda；2）创建一个名为tensorflow的环境，指定版本是3.5；3）安装TensorFlow-CPU。安装TensorFlow-GPU版本（复杂）：1）下载并安装Anaconda；2）创建一个名为tensorflow的环境，指定版本是3.5；3）安装TensorFlow-GPU；4）cuda安装+cuDnn库

2017-11-11 17:06:59 669

原创 TensorFlow笔记：dynamic_rnn

dynamic_rnn函数有两个输出，outputs, last_states。由于好奇这两个输出到底保存了什么信息，做了如下实验。假设RNN的输入： 1）batch_size=2，一个batch里面有2个句子。 2）rnn_size=2，即最大的句子长度为2。 3）embedding_size=1，词向量长度为1。 4）batch中的两个句子，一个长度为2，一个长度为1。如图所示：

2017-11-09 10:13:56 5049

原创 TensorFlow官方文档中文版-笔记(八)

递归神经网络之LSTMLSTM模型的核心由一个 LSTM 单元组成，其可以在某时刻处理一个词语，以及计算语句可能的延续性的概率。网络的存储状态由一个零矢量初始化并在读取每一个词语后更新。而且，由于计算上的原因，我们将以 batch_size 为最小批量来处理数据。基础的伪代码就像下面这样：lstm = rnn_cell.BasicLSTMCell(lstm_size)# 初始化 LSTM 存储状态

2017-11-06 15:57:47 547

原创 TensorFlow官方文档中文版-笔记(七)

实现word2vec中skip_gram模型建立图形这里谈得都是嵌套，那么先来定义一个嵌套参数矩阵。我们用唯一的随机值来初始化这个大矩阵。embeddings = tf.Variable( tf.random_uniform([vocabulary_size, embedding_size], -1.0, 1.0))对噪声-比对的损失计算就使用一个逻辑回归模型。对此，我们需要对语料库中的每个

2017-11-03 10:22:39 624

原创 TensorFlow官方文档中文版-笔记(六)

复杂的CNN（加入trick）为与中文文档同步做个笔记，没细研究。完整代码如下：# TensorFlow进阶-实现进阶的CNNfrom CNN import cifar10, cifar10_inputimport mathimport tensorflow as tfimport numpy as npimport timemax_steps = 3000batch_size = 12

2017-11-02 22:10:03 483

原创 TensorFlow官方文档中文版-笔记(五)

TensorFlow格式入门输入与占位符placeholder_inputs()函数将生成两个tf.placeholder操作，定义传入图表中的shape参数，shape参数中包括batch_size值，后续还会将实际的训练用例传入图表。def placeholder_inputs(batch_size): images_placeholder = tf.placeholder(tf.flo

2017-11-02 21:57:47 1297

原创 TensorFlow官方文档中文版-笔记(四)

CNN实现MNIST任务权重初始化为了创建这个模型，我们需要创建大量的权重和偏置项。这个模型中的权重在初始化时应该加入少量的噪声来打破对称性以及避免0梯度。由于我们使用的是ReLU神经元，因此比较好的做法是用一个较小的正数来初始化偏置项，以避免神经元节点输出恒为0的问题（dead neurons）。为了不在建立模型的时候反复做初始化操作，我们定义两个函数用于初始化。# 定义好初始化函数以便重复使用

2017-11-02 19:22:46 441

原创 TensorFlow官方文档中文版-笔记(三)

增加隐含层实现MNIST任务# TensorFlow进阶3—增加隐含层的神经网络import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_data# Import datamnist = input_data.read_data_sets("MNIST_data/", one_hot=True)se

2017-11-02 18:14:28 400

原创 TensorFlow官方文档中文版-笔记(二)

简单的Softmax Regression模型实现MNIST任务首先下载MNIST数据集，下载下来的MNIST数据集被分成两部分：60000行的训练数据集（mnist.train）和10000行的测试数据集（mnist.test）。这样的切分很重要，在机器学习模型设计时必须有一个单独的测试数据集不用于训练而是用来评估这个模型的性能，从而更加容易把设计的模型推广到其他数据集上（泛化）。正如前面提到的一

2017-11-02 16:42:19 605

原创将java工程打包成jar包

1. 准备MANIFEST.MF文件1）若生成的jar包直接导入java工程中使用，可以不用MANIFEST.MF文件，直接在工程中导入jar包引用到的第三方包； 2）若生成的jar包需要放到服务器上跑，在jar包的存放路径下同时存放一个lib文件夹，在该文件夹中存放第三方包，如图所示：再在MANIFEST.MF文件中指定第三方包的位置，MANIFEST.MF中内容如下： Manife

2017-11-01 12:39:54 29658

沉香屑_的博客