关于lua除法的问题

最新推荐文章于 2023-02-24 11:50:11 发布
最新推荐文章于 2023-02-24 11:50:11 发布
阅读量3.7k 收藏
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lordmr/article/details/50844776
版权

lua版本5.0

     数字都是浮点型，除法出来的数也是浮点型，但是今天碰到一个问题，1603272359/100,直接算出来的是16032724！！！！，很是不解，前面的数字是个时间格式，我要去小时，导致23h变成24h，莫名的bug。只能认为数太大了，除法有问题，解决方法就是先摸除一下，取2359再做除法。


    做了个实验，838860774/100这时算出来的还是能带小数点的，838860775就不行了。

lordmr
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Lua运算
u011296355的博客
09-08 1296
算术运算除了加、减、乘、除等常见的运算之外，Lua还支持取整除法、取模和指数运算。print(-1 + 3) -- 3 print(0.1 + 0.2 == 0.3)...
【Lua 入门基础篇（四）】运算符
Cauchy的博客
08-24 1388
# 对 table 获取长度时，根据的是表的最大索引值。b : c， a 为 true 返回 b 否则返回 c。对于不存在nil的table，取值也非常玄乎！Lua 中没实现三目运算的操作。
lua的坑(持续更新，每日更新两篇，9/15)，更新到17个
谢白羽
08-27 605
1.把数值转成16进制的格式 2.去掉商里的小数 3.string.format()保留三位小数 4.向上/下取整，四舍五入 5.string字符串拆成表 6.敏感词过滤 7.同名传参/同名字段相关bug 1）2个同名传参, 第1个传参无效 2）2个同名字段, 第2个字段无效 8.表作为传参: 浅拷贝的相关bug 1）表作为参数传递时, 是浅拷贝，原表也会改变 2）但是, 改变arg表自身, tab不变 9.windwos安装lua 10.通配符，正则表达式 11.用正则实现trim() 12.字符串截取s
lua 32位数字（int32）大小端转换
最新发布
wjg220000的博客
02-24 1117
lua数字实现大小端转换，如输入0x12345678, 输出0x78563412
lua实现大数运算
04-01 4034
lua实现的大数运算，代码超短，目前只实现的加减乘运算 local mod = 10000 function add(a, b) t, c = 0, {} for i = 1, math.max(#a,#b) do t = t + (a[i] or 0) + (b[i] or 0) c[i], t = t%mod, math.floor(t/mod) end while t ~
Lua中关于求模与求余的区别介绍
09-22
总结一下，Lua中的求模运算（`%`）和求余运算（`math.fmod()`）虽然都涉及到除法后的余数，但它们的舍入规则不同，导致结果的符号也不同。了解这些差异对于精确控制计算结果非常重要，尤其是在处理负数和进行数值...
luafp:Lua中的定点计算（独立测试）
06-09
2. **Lua接口**：定义了Lua脚本可以调用的函数，用于执行定点计算，如加法、减法、乘法、除法等。 3. **测试脚本**：包含了独立测试的Lua脚本，用于验证定点运算的正确性和性能。 4. **示例**：可能包含了一些使用...
Lua53DLL.zip
03-31
2. **新的数字操作**：包括新的数学常量（如π和e）、新的数字函数（如`math.frexp`和`math.ldexp`）以及对整数除法和模运算的增强。 3. **元表的改进**：元表现在可以为整数索引提供元方法，这在处理数组和序列时...
lua5.3.3版本源码
07-12
通过深入阅读和理解Lua 5.3.3的源码，你可以更好地掌握Lua的内部工作原理，这对于优化性能、调试问题或扩展Lua的功能都极其有价值。在`lua-5.3.3`这个压缩包中，包含了所有相关的源代码文件，是你学习和研究的理想...
lua-bint:纯Lua中的任意精度整数算术库
05-09
该库的设计遵循最新的Lua整数语义，这意味着整数溢出会扭曲，有符号整数是使用双补码算术规则实现的，整数除法运算朝负无穷大舍入，任何带有浮点数的混合运算都会将值提升为浮点数，并且通常的除法/电源操作始终会...
lua实现大数字的四则运算
leiax00
01-07 1426
local a = "1234567891234567890" local b = "1234000000000000220" local c = "asd123" local function build(str) local n, c = math.floor(#str/4), {} if #str%4 ~= 0 then c[n + 1] = tonumbe...
lua中的整除与取整数
kuangben2000的博客
06-29 3859
lua中的整除与取整数 https://blog.csdn.net/banfushen007/article/details/100546017 书籍是人类进步的阶梯，在没看lua程序设计第四版之前，并不知道lua有整除运算符，需要返回整除结果的时候，自己还得进行多余的运算，减去小数部分。前几天需求刚好需要用到整除和取一个浮点数的整数部分，运用之，作此记录。 整除 lua中“ / ”代表除法，计算结果都是存在小数的。lua5.3后还提供了一个整除的运算符“ // "。 取整数...
Lua 取整，取余
Shanks
08-17 1万+
一下内容转载或引用或参考 http://blog.csdn.net/goodai007/article/details/17142915 使用math.modf(x/y)此函数,第一参数返回整数部分,第二个参数返回小数部分 t1,t2 =math.modf(30/10);
Lua 保留小数位
马金波
04-18 8869
使用string格式化(四舍五入)： > print(string.format("%.2f", 2.344)); 2.34 > print(string.format("%.2f", 2.345)); 2.35 > print(string.format("%.2f", 2.349)); 2.35 使用lua取余运算符%完成(向下舍入)： > print(2.344 -...
Lua5.3 异或操作的一个坑
热门推荐
程书画的 BLOG
02-01 2万+
最近在开发项目时，需要用到Lua的一些位操作，其中用到了异或，当时想当然的就以为在Lua5.3里，异或操作也像C语言一样是^, 然后就写下去了， 后来跑的时候也没报错，就没再深究，直到今天在测试这段代码的时候，发现结果怎么也不对，之前写的“异或”，得出来的结果居然是inf, 无穷大。 而实际上，在Lua5.3里，^是乘方，~才是异或，这一点实在是坑，因为~还是按位非符号，这里贴出云风的
Lua保留规定小数位数
chqj_163的专栏
02-12 4922
使用string格式化方式     如果需要的结果是字符串，则可以使用string.format()函数     保留2位小数：string.format(“%.2f”, x) 使用数字计算方式     使用%运算符，得到的结果是数字     x%1 表示x的小数部分，x-x%1 表示x的整数部分。     类似的，x-x%0.01 将x精确到小数点后2位。 ----------------...
Lua不显示小数点0的部分
weixin_34280237的博客
05-16 1540
我的环境：Unity3D 5.3.7p4 XLua版本v2.1.6 基于Lua5.3 (https://github.com/Tencent/xLua) 在Lua中数字不区分整型或浮点型，所有都是number，当你在整除时，返回的结果中带有小数0，比如printf(100/10 ) ---输出10.0 注意：在Lua5.1.4的控制台模式，并不会出现此问题。如果输入100/10，则会打印出10，而...
lua api lua文档
07-25
* 算术运算符：Lua 语言的算术运算符包括加法、减法、乘法、除法等。 * 关系运算符：Lua 语言的关系运算符包括等于、不等于、大于、小于等。 * 逻辑运算符：Lua 语言的逻辑运算符包括与、或、非等。 **Lua 语言高级...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值