- 博客(9)
- 收藏
- 关注
原创 tensorflow中tf.train.init_from_checkpoint的使用
比如用下面代码保存一个模型:import tensorflow as tfimport numpy as npinput = np.random.random([10, 2])print(input)output = tf.layers.dense(input, units=2)with tf.Session() as sess: sess.run(tf.global_variables_initializer()) print(sess.run(output))
2022-04-28 09:21:43
1835
原创 group conv 和 depthwise conv
最近在项目中遇到conv层计算量过大的问题,于是就尝试了一些方法。解决conv计算量大的问题,最粗暴的方法当然是直接减小filters的大小,但这种方法带来的负面作用可能是conv层的效果会出现一定的回退。通过查资料和别人介绍,知道了group conv和depthwise conv两种优化方式,这两天研究了一下这两个方法,对它们的实现有了一定的了解,在这里记录一下。group conv对于我们普通的卷积,假如我们的输入是100x256的矩阵,通过一个kernel_size=3,filters=512的
2022-01-25 17:07:38
1635
原创 wavenet 常见错误
q1:tf1.51.1 运行Tactron2中的wavenet,出现以下错误。Traceback (most recent call last): File "train.py", line 138, in <module> main() File "train.py", line 132, in main train(args, log_dir, hparams) File "train.py", line 83, in train checkpoint
2021-03-04 15:29:23
354
1
原创 TensorFlow1.x和TensorFlow2.x的layer实现上的区别
TensorFlow1.x和TensorFlow2.x的layer实现上的区别tf.contrib.layers.layer_norm vs. tf.keras.layers.LayerNormalization该layer主要是对输入进行规整操作。计算公式大概是:x = ( x - m ) / sqrt(v + esp)x *= gammax += beta其中,gamma和beta两个参数在训练中得到,m和v是做inference的时候计算,在tf1.0中,m和v是按x所有的值做平均算方
2021-01-28 10:28:08
1199
原创 TensorFlow的一些错误解决
错误描述NodeDef mentions attr ‘Truncate’ not in Op<name=Cast; signature=x:SrcT -> y:DstT; attr=SrcT:type; attr=DstT:type>; NodeDef: Tacotron_model/inference/LocationSensitiveAttention/SequenceMa...
2020-04-15 10:38:38
1421
3
原创 tensorflow 模型保存&恢复
自己虽然经常用tf,但是一些基本的操作经常忘记,比如模型的保存和恢复操作,所以写个笔记记一下,供自己参考。第一步,我们先定义一个网络结构,实现的就是 y=w*x+b 这么一个线性变换,代码如下:#coding=utf8import os, sysimport tensorflow as tfimport numpy as npfrom ...
2020-04-15 10:29:22
90
原创 Tactron 2学习笔记3 decoder篇
decoder由以下几个部分组成,包括prenet,attention,decoder_lstm,frame_projection,stop_projection等。prenet首先,我们来看看prenet,从代码中类Prenet中可以看出,prenet的主体是two fully connected layers,每一层接一个dropout。attention接着看看attention部...
2020-04-09 14:10:48
686
原创 Tactron 2学习笔记2 encoder篇
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入欢迎使用Ma...
2020-04-07 18:43:36
879
原创 tacotron 2学习笔记1 数据准备篇
tacotron 学习笔记你好! 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章,了解一下Markdown的基本语法知识。新的改变我们对Markdown编辑器进行了一些功能拓展与语法支持,除了标准的Markdown编辑器功能,我们增加了如下几点新功能,帮助你用它写博客:全新的界面设计 ,将会带来全新的写作体验;...
2020-04-07 18:42:57
594
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人