关于浮点运算和定点运算

转自:https://blog.csdn.net/allen_sdz/article/details/86172432

什么是定点数?
https://baike.baidu.com/item/定点数/11030127
什么是定点运算?
https://baike.baidu.com/item/定点运算/1861887?fr=aladdin
什么是浮点数?
https://baike.baidu.com/item/浮点数/6162520?fr=aladdin
什么是浮点运算?
https://baike.baidu.com/item/浮点运算/100607?fr=aladdin
为什么浮点数一定有误差?
https://blog.csdn.net/qq_25847123/article/details/77587575
为什么精确运算要避免浮点运算?
https://blog.csdn.net/iteye_11305/article/details/82671571
浮点运算原理详解:
https://blog.csdn.net/tercel_zhang/article/details/52537726
定点数、浮点数运算类型的说明:
https://blog.csdn.net/syb773849846/article/details/78123079
Linux内核中为什么要避免浮点运算?
https://zhidao.baidu.com/question/240448272188831724.html
定点与浮点运算 DSP 的比较
https://blog.csdn.net/sunice121/article/details/25324089
小结:

浮点运算的缺点: 计算复杂度高,结果存在误差,受硬件平台影响大

浮点运算的优点: 可以表示实数,数的表示范围比较大,便于大型复杂算法的实现。

20190705

浮点转定点的方法——量化

根据“最小值”和“最大值”确定输入浮点值的范围。 (注:未必是实际数据的最小值和最大值。例如存在未知数据时需要根据经验值确定取数范围,或者需要去除数据中的极端值以免不合理地降低精度。)
根据精度需求确定输出定点值的范围,例如量化到0~255(整数)范围。
将浮点输入值映射到定点输出值,公式为y_int = scale * (x_float - x_min)。
根据应用需求对映射结果做细微调整,比如对浮点数为0的精度较为敏感的,需要将浮点0映射为整数定点值,其他浮点数的映射关系则据此做调整。(此想法源自Neon矩阵乘法加速优化中对量化的调整。)

————————————————
版权声明:本文为CSDN博主「小豆豆~」的原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/allen_sdz/article/details/86172432

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值