Lua中将Number数据转换成指定位数的小数
Lua中将Number数据转换成指定位数的小数
使用Lua处理一些Number数据时,有时候需要保存指定的小数后几位,以下这个接口可以直接指定小数位数,输出处理好的数据。
Code
--[[
@author:
@note: 将数据转换成指定位数的小数
@param nNum 源数据
@param precision 精度
@return 转换后的数据
@attention
--]]
function getPreciseDecimal(nNum, precision)
if type(nNum) ~= "number" then
return nNum;
end
precision = precision or 0;
precision = math.floor(precision);
if precision < 0 then
precision = 0;
end
local nDecimal = 10 ^ precision;
local nTemp = math.floor(nNum * nDecimal);
local nRet = nTemp / nDecimal;
return nRet;
end