JS长整型精度问题

转载 2016年05月30日 11:05:47

本文实例分析了一个JS长整型精度问题。分享给大家供大家参考。具体分析如下:
问题描述:
后台有一个脚本功能,可编写脚本动态调用Java代码
复制代码 代码如下:importClass(com.ztgame.center.controller.api,P360ApiController);
var roleId = 10214734953631045;
p360ApiController.notice(roleId, 4);
脚本执行成功,但运行结果与设定不一样,此人没有收到邮件
查看日志 recharge award has been sent. roleId=10214734953631044;
这角色ID数字少1,这….
问题分析:
应该是JS精度问题,
精度
整数(不使用小数点或指数计数法)最多为 15 位。
小数的最大位数是 17,但是浮点运算并不总是 100% 准确:
修改脚本
复制代码 代码如下:var roleId = 10214734953631045;
var output = roleId;
输出:
1.0214734953631044E16;
这不是JavaScript的错,也不是Java的错,上面转成Long 确实是 roleId=10214734953631044;
可不可以那样呢?
javascript控制台输入的都是字符串,然后调用java里的Integer.valueOf或者Long.valueOf转换呢?
解决方案:
编写一个通用的转化方法 目的把角色ID用字符串传到JavaScriptEngine
复制代码 代码如下:importClass(com.ztgame.common.util.StringKit);
importClass(com.ztgame.center.controller.api,P360ApiController);
申明为字符串
复制代码 代码如下:var roleId = “10214734953631045”;
这样JavaScriptEngine拿到的 就是字符串了 其实工作就是Java去处理了
复制代码 代码如下:p360ApiController.notice(StringKit.parseLong(roleId), 4);

相关文章推荐

JAVA 正则表达式 (超详细)

新网站上线 欢迎大家 网站交易中心 在这里你可以购买或者出售你的网站。网站信息发布中心 在这里有各种交易信息的发布。同时提供一些软件的免费使用(附有源码)。网站博客系统 这里你可以注册自己的博客。一个...

js 长整型(Long)转为时间类型

项目中有时候遇到要把一个long类型转换为时间类型。 var date = new Date(1230604230000);   var theDate = date.toLocale...

js中如果long类型值过长,字段自动截取问题

js代码遇到一个奇怪的问题: id变量的值,和它右边的值不相等。 原来数字类型的字符串,在js中,默认是long类型的。 只需要在后面的字符串加上双引号就可以了,将其显示的表示为字符串。...

用汇编语言实现:以十进制形式输出双精度整型数

题目:以十进制形式输出双精度整型数(正数)(EDX:EAX双精度保存在两个寄存器中) 题解: 1.ans = (EDX * 2 ^ 32 + EAX) 2.每次对ans模10,除10 3.EDX = ...

JS精度问题

JS 整型,浮点型转化为字符型

JS 数据类型转换 方法主要有三种 转换函数、强制类型转换、利用js变量弱类型转换。 1. 转换函数: js提供了parseInt()和parseFloat()两个转换函数。前者把值...

js小数相加、相乘失去精度问题解析详解(最优方案)

我们得到后台返回的float类型的数字,用来相加、相乘失去精度,得到小数点显示很多位,为了这个问题,小编找到一个最优方法,贡献给大家参考。 var CMX = CMX || {}; /** ** ...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:深度学习:神经网络中的前向传播和反向传播算法推导
举报原因:
原因补充:

(最多只允许输入30个字)