- 博客(3)
- 收藏
- 关注
原创 量化训练、推理神经网络-WAGE
1. WAGE背景介绍WAGE(Training and Inference with Integers in Deep Neural Networks)是ICLR2018的Best Paper,这篇论文提出了一种量化神经网络的框架,可以将神经网络中的参数(Weight)、激活值(Activation)、梯度(Gradient)以及误差(Error)进行可选比特长度的整型量化。在本文中使用WiW...
2020-04-28 22:15:48
1448
2
原创 前导0预测(Leading-Zero Anticipator,LZA)
前导0预测(Leading-Zero Anticipator,LZA)浮点加法在完成之后会进行尾数规格化移位,而在进行尾数加法时,可以使用前导0预测(Leading-Zero Anticipator,LZA)同时计算移位,前导0预测只发生在一个正数加上一个负数的情况下,电路图如图1所示。图1 传统LZD算法和LZA算法1. 基础算法算法的目标是计算出加法结果序列左边连续0的数量,下文中对...
2020-04-15 11:04:59
4745
2
原创 加速LU分解和非奇异矩阵求逆
加速LU分解和非奇异矩阵求逆1. 背景介绍上(下)三角矩阵有许多性质使得计算机可以方便地对它们进行各种线性代数基础运算,例如,对三角矩阵的求逆非常直观容易。因此在计算中大型矩阵的逆时常将原矩阵AAA分解为一个下三角矩阵LLL和一个上三角矩阵UUU相乘的形式,再分别求下三角矩阵的逆L−1L^{-1}L−1和上三角矩阵的逆U−1U^{-1}U−1,再将它们相乘获得最终的逆矩阵结果。理论上利用LU...
2020-04-06 10:40:04
1958
3
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人