- 博客(5)
- 问答 (1)
- 收藏
- 关注
RSS订阅原创 tensorlfow手动插入fake quant node之op的多个输入区间差别过大
如图：对于add这个op，左边的输入范围为[-50,50]，且左边为网络中间特征tensor，右边为掩码，范围为[0,10000]，则add以后的输出为【0，10050】,如果在add以后插入量化节点，则中间特征tensor的精度损失殆尽！...
2019-07-31 19:37:39
792
1
原创 tensorflow之tensorboard op name与本地graph name之坑
带括号的，在本地graph的名称实际上是"bert/encoder/layer_0/attention/self/Reshape"
2019-07-31 14:30:36
328
原创 tensorflow优化器对graph的操作
在训练时，opt会进行两步操作，第一步建立反向传播图，第二步执行，traininig graph和reference graph是不一样的，但权重是一样的
2019-07-05 12:01:54
285
原创 tensorflow restore .ckpt原理分析
在进行saver.restore(sess, ckpt_filename)前需要建立一个graph，而graph包括opration和tensor,placeholder,这种方式只是reload权重，网络结构不一样可也reload权重，只要权重名字一样就行...
2019-07-05 11:59:06
604
原创 深度学习卷积的本质
要搞懂卷积的本质，得从以下几个方面理解。卷积的数学意义：卷积为相乘再求和，其实质为积分运算的离散实现，卷积核为大小为积分区间。函数的表现形式：函数可以为表达式，例如：y=a*x+b，也可以为表格，深度学习中，卷积核为积分函数，输入为积分变量。对图像或者特征图进行卷积的意义：先说输入通道为1输出通道都为n的情况，就是拿n个函数（长宽为a，b的卷积核），对输入的两个维度（x轴和y轴）的每一点（...
2019-07-03 11:16:33
1688
空空如也
tensorflow多维素组改变特定元素值报错
2019-01-24
TA创建的收藏夹 TA关注的收藏夹
TA关注的人