Lua与C++ 一个精度误差问题

近日和服务器同事处理一个游戏数据问题的时候,发现服务器Lua脚本的浮点数据在被服务器c++代码调用有可能出现误差。类似地,如果在客户端用lua的内置函数库去操作浮点数也会重现这样的取整误差情况,举个简单例子如下:

local k = 1+122/100;
local t = 250*k
print("t:",t)
print("math t:",math.floor(t))
print(string.format("string t:%d",t))

理想情况t、math t和string t都是555。

实际输出只有t是555,math t和string t都是554。

所以客户端和服务器在同样用一套计算公式去计算某个游戏数据时,由于客户端是纯脚本运算得到结果,服务器是将脚本运算的中间结果t在C++代码中继续处理,中间出现上述的精度误差问题,导致客户端和服务器的结果总是会有一些微小的数值偏差。

 

具体的精度误差原因如果有读者知道,欢迎科普一下博主。

 

转载于:https://www.cnblogs.com/mzdbskipop/p/3964107.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值