JqGrid 框架自带sum合计浮点数精度问题处理

最新推荐文章于 2019-11-27 19:46:11 发布

_静水

最新推荐文章于 2019-11-27 19:46:11 发布

阅读量2.3k

点赞数 2

分类专栏：工作经验与问题

本文链接：https://blog.csdn.net/kgdxwy1/article/details/61201802

版权

本文介绍了如何处理使用JqGrid框架时遇到的浮点数精度问题。通过自定义Math.add方法实现精确加法，并在jqGrid初始化方法中加入代码，遍历数据并设置合计值，从而在表格底部正确显示浮点数总计。

摘要由CSDN通过智能技术生成

问题:

通过JqGrid的$("#table_id").getCol('colModel的name', false, 'sum');获取时会出现浮点数精度问题!

解决方案：

	1.自定义Math.add方法实现精确加法

Math.add = function(v1, v2)
{
    var r1, r2, m;
    try
    {
        r1 = v1.toString().split(".")[1].length;
    }
    catch (e)
    {
        r1 = 0;
    }
    try
    {
        r2 = v2.toString().split(".")[1].length;
    }
    catch (e)
    {
        r2 = 0;
    }
    m = Math.pow(10, Math.m