数学库知识体系

文章探讨了在处理浮点型数据时,由于精度损失可能导致不同平台间运算结果不一致的问题。通过将数据放大1024倍并转换为整数,利用位移运算提高效率,可以确保运算的一致性。这种方法在游戏等需要底层优化的场景中尤其重要,能显著提升全局效率。
摘要由CSDN通过智能技术生成

前言:浮点型数据运算精度损失,将其扩大倍数以后转化为整数进行运算,确保在不同的平台上面塞僻的处理结果是一致的。

定点数放大倍数

方法:放大倍数;位移运算;隐式、显示转化;

运算操作的是二进制,效率要远高于乘法运算,定点数的数学库是一个基础类库,整个游戏它支撑起来的,在底层做一些优化,全局优化的效率就能大大的提升。放大倍数是1024,

扩大1024的倍的原因位运算符和移位运算符 - 对整数类型中的单个位执行布尔(AND、NOT、OR、XOR)和移位运算 | Microsoft Learn

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值