关于lua除法的问题

最新推荐文章于 2023-02-24 11:50:11 发布
最新推荐文章于 2023-02-24 11:50:11 发布
阅读量3.7k 收藏
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lordmr/article/details/50844776
版权

lua版本5.0

     数字都是浮点型，除法出来的数也是浮点型，但是今天碰到一个问题，1603272359/100,直接算出来的是16032724！！！！，很是不解，前面的数字是个时间格式，我要去小时，导致23h变成24h，莫名的bug。只能认为数太大了，除法有问题，解决方法就是先摸除一下，取2359再做除法。


    做了个实验，838860774/100这时算出来的还是能带小数点的，838860775就不行了。

lordmr
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
LUA5.2版本中提供的位运算
sunning9001的专栏
06-07 4444
Bitwise Operations This library provides bitwise operations. It provides all its functions inside the table bit32. all functions accept numeric arguments in the range (-2^51,+2^51); each argumen
【Lua 入门基础篇（四）】运算符
Cauchy的博客
08-24 1378
# 对 table 获取长度时，根据的是表的最大索引值。b : c， a 为 true 返回 b 否则返回 c。对于不存在nil的table，取值也非常玄乎！Lua 中没实现三目运算的操作。
Lua基础(五)数值
wzj_110的博客
01-04 796
一 整数和浮点数 ① 说明： 具有'十进制小数'或者'指数的数值'会被当作'浮点'数值,'否则'会被当作'整数值' ② 说明：'整数值'和'浮点型值'的类型都是"number" ++++++++++++++'效果'++++++++++++++ 所以：它们是可以'互相转化'的 ③ 整数和浮点数值的类型都是"number",所以它们可以'相互转化' 具有'相同算术值'的'整数值和浮点数值'在Lua语言是'相等'的 ④ 需求： '区分'整数和浮点数值 二 算术运算...
lua的坑(持续更新，每日更新两篇，9/15)，更新到17个
谢白羽
08-27 602
1.把数值转成16进制的格式 2.去掉商里的小数 3.string.format()保留三位小数 4.向上/下取整，四舍五入 5.string字符串拆成表 6.敏感词过滤 7.同名传参/同名字段相关bug 1）2个同名传参, 第1个传参无效 2）2个同名字段, 第2个字段无效 8.表作为传参: 浅拷贝的相关bug 1）表作为参数传递时, 是浅拷贝，原表也会改变 2）但是, 改变arg表自身, tab不变 9.windwos安装lua 10.通配符，正则表达式 11.用正则实现trim() 12.字符串截取s
lua 32位数字（int32）大小端转换
最新发布
wjg220000的博客
02-24 1109
lua数字实现大小端转换，如输入0x12345678, 输出0x78563412
lua实现大数字的四则运算
leiax00
01-07 1422
local a = "1234567891234567890" local b = "1234000000000000220" local c = "asd123" local function build(str) local n, c = math.floor(#str/4), {} if #str%4 ~= 0 then c[n + 1] = tonumbe...
Lua中关于求模与求余的区别介绍
09-22
总结一下，Lua中的求模运算（`%`）和求余运算（`math.fmod()`）虽然都涉及到除法后的余数，但它们的舍入规则不同，导致结果的符号也不同。了解这些差异对于精确控制计算结果非常重要，尤其是在处理负数和进行数值...
luafp:Lua中的定点计算（独立测试）
06-09
2. **Lua接口**：定义了Lua脚本可以调用的函数，用于执行定点计算，如加法、减法、乘法、除法等。 3. **测试脚本**：包含了独立测试的Lua脚本，用于验证定点运算的正确性和性能。 4. **示例**：可能包含了一些使用...
Lua53DLL.zip
03-31
2. **新的数字操作**：包括新的数学常量（如π和e）、新的数字函数（如`math.frexp`和`math.ldexp`）以及对整数除法和模运算的增强。 3. **元表的改进**：元表现在可以为整数索引提供元方法，这在处理数组和序列时...
lua5.3.3版本源码
07-12
通过深入阅读和理解Lua 5.3.3的源码，你可以更好地掌握Lua的内部工作原理，这对于优化性能、调试问题或扩展Lua的功能都极其有价值。在`lua-5.3.3`这个压缩包中，包含了所有相关的源代码文件，是你学习和研究的理想...
lua-bint:纯Lua中的任意精度整数算术库
05-09
该库的设计遵循最新的Lua整数语义，这意味着整数溢出会扭曲，有符号整数是使用双补码算术规则实现的，整数除法运算朝负无穷大舍入，任何带有浮点数的混合运算都会将值提升为浮点数，并且通常的除法/电源操作始终会...
lua实现大数运算
04-01 4033
lua实现的大数运算，代码超短，目前只实现的加减乘运算 local mod = 10000 function add(a, b) t, c = 0, {} for i = 1, math.max(#a,#b) do t = t + (a[i] or 0) + (b[i] or 0) c[i], t = t%mod, math.floor(t/mod) end while t ~
lua中的整除与取整数
班门弄斧
09-04 3万+
书籍是人类进步的阶梯，在没看lua程序设计第四版之前，并不知道lua有整除运算符，需要返回整除结果的时候，自己还得进行多余的运算，减去小数部分。前几天需求刚好需要用到整除和取一个浮点数的整数部分，运用之，作此记录。 整除 lua中“ / ”代表除法，计算结果都是存在小数的。lua5.3后还提供了一个整除的运算符“ // "。 取整数 lua数学库提供了三个取整函数...
Lua运算
u011296355的博客
09-08 1295
算术运算除了加、减、乘、除等常见的运算之外，Lua还支持取整除法、取模和指数运算。print(-1 + 3) -- 3 print(0.1 + 0.2 == 0.3)...
Lua保留规定小数位数
滑冰犀鸟的博客
09-23 4万+
使用string格式化方式 如果需要的结果是字符串，则可以使用string.format()函数 保留2位小数：string.format(“%.2f”, x) 使用数字计算方式 使用%运算符，得到的结果是数字 x%1 表示x的小数部分，x-x%1 表示x的整数部分。 类似的，x-x%0.01 将x精确到小数点后2位。
Lua 取整，取余
Shanks
08-17 1万+
一下内容转载或引用或参考 http://blog.csdn.net/goodai007/article/details/17142915 使用math.modf(x/y)此函数,第一参数返回整数部分,第二个参数返回小数部分 t1,t2 =math.modf(30/10);
lua 取整 取余
破空的专栏
12-05 5万+
使用math.modf(x/y)此函数,第一参数返回整数部分,第二个参数返回小数部分 t1,t2 = math.modf(30/10);
lua 取一个数字的整数部分
热门推荐
jphaoren的专栏
05-04 7万+
<br />lua在对两个整数进行除法操作时不会向C那样将结果转换成整数，而是自动转换成浮点数。（lua没有数据类型之分）。如果要实现此功能需要取得结果中的整数部分。math.ceil (x)<br />Returns the smallest integer larger than or equal to x.<br />--取一个数的整数部分<br />function getIntPart(x)<br />if x <= 0 then<br />   return math.ceil(x);<br /
lua api lua文档
07-25
luaapi lua中文

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值