- 浮点数的定点化
浮点数例子:2.918 3.1415926
转成定点数要定义小数需求多少位,整数需求多少位。
第一步:3位整数位宽,12位的小数位宽,最高位的符号位1位。
第二步:最大值16’d32767最小值-32768
//取低15位,其中第14,13,12位最大能表示7,小数最大12位能表示多大精度呢?最大精度0.000244140625
第三步:2.918进行定点化的过程为2.918/(8/32768)=11952.128~=11952这个值就是定点后的2.918定点化会带来量化误差
3.1415926定点化表示是多少呢?3.1415926/(8/32768)=12867.9632896~=12868//量化后的值是3.1416015625-3.1415926=0.0000089625
//2.9183.1415926~=11952x12868
浮点结果2.9183.1415926=9.1671672068
定点结果11952x12868=153798336=9.167095184326171875
fpga实现浮点数计算
最新推荐文章于 2024-06-23 11:48:38 发布