- 博客(1)
- 收藏
- 关注
原创 半精度浮点数(fp16,Half-precision floating-point)
今天看NVIDIA的帕斯卡架构介绍时,看到了fp16浮点数格式,以前没见过,想弄清楚他的格式和表示范围,几经查找,终于搞懂了。主要参考:fp16-wiki 如图,一个fp16数据占据两个字节,其中1位符号位,5位指数位,10位有效精度。符号位:0:代表正数; 1:代表负数。指数位:与15的偏差。 max_e
2016-09-05 23:16:21 61362 5
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人