FPGA只能处理定点数,Alteral stratix 10可以支持硬浮点,如军方雷达、机器视觉等硬件加速。
浮点数:2.918 3.1415986
浮点转定点:(如16位,表示范围32767~-32768)
定义小数需求多少位(如12位)
整数需求多少位(如3位)
最高位为符号位(针对有符号数,1位)**
对于低15位,整数最大表示7,小数最大精度1/(212)=0.000244140625,小数最大能表示(1/(212))4095=0.999755859375
即使用15位二进制数(最大32767)表示浮点小数(最大7.999755859375)
如对2.918定点化的过程:
量化精度:(8/32768)
量化结果:2.918/(8/32768)=11952.128~=11952
定点化会产生量化误差。
如对3.1415926定点化过程;
3.1415926/(8/32768)=12867.9632896~=12868