解决了个困扰了2天的问题,定点运算问题

分母变小了,相当于左移了

---------------------------------------------------------
声明:
  此文为原创,欢迎转载,转载请保留如下信息
  作者:afreez 北京-中关村
  联系方式:afreez.gan@gmail.com (欢迎与作者交流)
  初次发布时间:2006-12-06

  不经本人同意,不得用语商业或赢利性质目的,否则,作者有权追究相关责任!

---------------------------------------------------------

a=1-b/c;
|b|<pow(2,23)
|c|=pow(2,26)

|a|<1

在运算个过程中,需要把该运算转换成定点运算。
想了2天,都没有想出怎么可以保证a的精度,因为a可能很小,如果简单的
a<<=8;
是无法保证a的精度的。

今天快要下班时,突然有灵机一动:
c>>=6;
b<<=8;
a=1<<14-b/c; //相当于 a<<14,保证了a的精度

分子不能左移太多位,分母右移,解决问题了。
发散思维说起来很容易,做起来不容易呀! 

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值