对论文 Deep Learning with Limited Numerical Precision 的理解与结论的验证
文章思想:在深度学习中使用定点数来代替浮点数,本文引出了一种新的取舍方案:在下溢的时候随机取舍这种取舍在经过验证后发现效果比最邻近取舍好很多,相比之下,使用随机取舍用16位定点数就能达到和最近邻取舍32位定点数的效果。以下是两种取舍方法:符号意义:IL:定点数的整数位数FL:定点数的小数部分<IL,FL>:表示一个定点数WL:表示定点数的位数 ,即WL=IL+FLx:表...
原创
2019-10-25 20:43:02 ·
2218 阅读 ·
0 评论