自己的底层代码库(十四)——float的截断

最近遇到了一个不同的机器上浮点数计算出来的小数部分不一致的问题

(主要是D3D里面提供的一些函数,如D3DXVec2Normalize)

在AMD的cpu跟intel的cpu上计算的结果会不一致


这里选择了一种保留到小数点后2的-3次方的截断方式(当然,也可以保留的更精确一点)

先上代码

float Floor3(float& f)
{
    int& i = (int&)f;
    int exp= (i & 0x7f800000) << 1;  //取指数位,计算整数部分有多少位cutPos
    int cutPos=((exp >> 24) & 0xff) - 127;
    if (cutPos < -3)
    {
        f = 0.0f; // 2进制位底数部分前3位都为0,(即实际值小于0.125),近似为0
    }
    else
    {
        i = i & (~((1 << (23 - cutPos - 3)) - 1)); //-3即要保留到2的负几次方    
    }
    return f;
}

实际上,相当于 对小数部分进行分段

.0  ~  .124999 的截断近似为.0

.125 ~  .249999的截断近似为.125

.25 ~  .374999的截断近似为.25

依此类推


  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值