Tensorflow
Z-Pilgrim
这个作者很懒,什么都没留下…
展开
-
Tensorflow <一> 一层全连接网络实现XOR
注释已经很详细了 # -*- coding: utf-8 -*- # @author: Zafedom # @date: 17/5/14 下午9:17 ''' 练习tf 使用一层的网络实现xor 这个代码很拼运气,不见得结果好 文档参考:https://yjango.gitbooks.io/superorganism/content/dai_ma_yan_shi.html 代码参考:原创 2017-05-14 23:10:15 · 2541 阅读 · 0 评论 -
tf.nn.fixed_unigram_candidate_sampler解释
https://www.tensorflow.org/api_docs/python/tf/random/fixed_unigram_candidate_sampler 上面链接是官网解释,看了一会儿感觉没看懂 跑了几个列子有点懂了。 本文结合https://www.w3cschool.cn/tensorflow_python/tf_nn_fixed_unigram_candidate_...原创 2019-03-13 18:05:03 · 4653 阅读 · 0 评论 -
tf实现用二维的索引从二维数组获取对应值 tf.gather_nd
a = tf.constant([[1, 2, 3], [4, 5, 6], [7, 8, 9]]) inds = tf.constant([[0, 2], [2, 1], [1, 1]]) #目的是实现 从[1,2,3]获取index为[0,2]的值也就是[1,3]作为第一行, 从[4,5,6]获取index为[2,1]的值也就是[6,5]作为第二行, 从[7,8,9]获取index[1,...原创 2019-03-17 23:35:49 · 1620 阅读 · 0 评论 -
variable与get_variable
转载自:http://blog.csdn.net/u012436149/article/details/53696970 Variable tensorflow中有两个关于variable的op,tf.Variable()与tf.get_variable()下面介绍这两个的区别 tf.Variable与tf.get_variable() tf.Variable(initial_va转载 2018-02-05 16:05:03 · 167 阅读 · 0 评论 -
tensorflow 报错 AttributeError: 'module' object has no attribute 'computation'
不知道为什么跑dynamic rnn的时候报错上面,之前 应该是被共用机器的人安装了tf 1.4然后我退回到1.2然后跑其他没问题,但是rnn的时候出问题了。然后找到 https://stackoverflow.com/questions/43833081/attributeerror-module-object-has-no-attribute-computation 解决办法: Need原创 2018-01-15 21:52:05 · 799 阅读 · 0 评论 -
Tensorflow 交叉熵计算 sparse_softmax_cross_entropy_with_logits softmax_cross_entropy_with_logits
1、交叉熵计算公式 http://blog.csdn.net/rtygbwwwerr/article/details/50778098 摘自上面链接 p:真实样本分布,服从参数为p的0-1分布,即X∼B(1,p) q:待估计的模型,服从参数为q的0-1分布,即X∼B(1,q) 两者的交叉熵为: CEH(p,q) =−∑x∈p(x)logq(x) =−[Pp(x=1)原创 2018-01-06 01:12:23 · 680 阅读 · 0 评论 -
Tensorflow 计算梯度 | clip 梯度
def test4(): # x = tf.Variable(tf.truncated_normal([1]), name='x') x = tf.Variable([1.], name='x') goal = (x - 2) * (x - 2) optimizer = tf.train.GradientDescentOptimizer(learning_rate=原创 2018-01-14 23:13:36 · 1858 阅读 · 0 评论 -
Tensorflow 存储和恢复模型 (save restore)
文档在这里 https://www.tensorflow.org/programmers_guide/saved_model 存储模型 # Add ops to save and restore all the variables. saver = tf.train.Saver() # Later, launch the model, initialize the variables原创 2017-12-29 09:33:38 · 819 阅读 · 0 评论 -
Tensorflow 参数训练过程中变成nan | parameter nan
最近写的网络,然后感觉是没问题的,但是训练过程中,有时候会所有参数都变成nan 第一次出现这个问题,我用的正态分布初始化,默认方差1,然后改成0.01好了 当时猜测是梯度爆炸了 第二次出现这个问题,是我迭代了很多轮之后忽然某一轮出现了这个问题,初始化方式uniform初始化,初始参数范围 [-1/hidden_dim, 1/hidden_dim] , lr 5/10w 解决方法再这里看到的:原创 2018-01-11 01:42:20 · 3802 阅读 · 0 评论 -
tf.AUTO_REUSE
通过get_variable("v")函数获取变量时,如果tf.variable_scope的reuse参数是True, 如果v是已经被创建过了就直接返回,但是如果没有创建会报错。如果设置成False,变量v如果没有被创建过就直接创建,如果创建过就报错。 AUTO_REUSE的好处就是实现: 如果创建过就返回,没有创建过就创建一个新的变量返回 AUTO_REUSE.__doc__ = ""...原创 2019-07-10 15:41:41 · 4394 阅读 · 3 评论