js小数相加、相乘失去精度问题解析详解(最优方案)

我们得到后台返回的float类型的数字,用来相加、相乘失去精度,得到小数点显示很多位,为了这个问题,小编找到一个最优方法,贡献给大家参考。

var CMX = CMX || {};
/**
 ** 加
 **/
CMX.add = function (arg1, arg2) {
  var r1, r2, m, c;
  try {
    r1 = arg1.toString().split(".")[1].length;
  }
  catch (e) {
    r1 = 0;
  }
  try {
    r2 = arg2.toString().split(".")[1].length;
  }
  catch (e) {
    r2 = 0;
  }
  c = Math.abs(r1 - r2);
  m = Math.pow(10, Math.max(r1, r2));
  if (c > 0) {
    var cm = Math.pow(10, c);
    if (r1 > r2) {
      arg1 = Number(arg1.toString().replace(".", ""));
      arg2 = Number(arg2.toString().replace(".", "")) * cm;
    } else {
      arg1 = Number(arg1.toString().replace(".", "")) * cm;
      arg2 = Number(arg2.toString().replace(".", ""));
    }
  } else {
    arg1 = Number(arg1.toString().replace(".", ""));
    arg2 = Number(arg2.toString().replace(".", ""));
  }
  return (arg1 + arg2) / m;
};

/**
 ** 减
 **/
CMX.sub = function (arg1, arg2) {
  var r1, r2, m, n;
  try {
    r1 = arg1.toString().split(".")[1].length;
  }
  catch (e) {
    r1 = 0;
  }
  try {
    r2 = arg2.toString().split(".")[1].length;
  }
  catch (e) {
    r2 = 0;
  }
  m = Math.pow(10, Math.max(r1, r2)); //last modify by deeka //动态控制精度长度
  n = (r1 >= r2) ? r1 : r2;
  return Number(((arg1 * m - arg2 * m) / m).toFixed(n));
};

/**
 ** 乘
 **/
CMX.mul = function (arg1, arg2) {
  var m = 0, s1 = arg1.toString(), s2 = arg2.toString();
  try {
    m += s1.split(".")[1].length;
  }
  catch (e) {
  }
  try {
    m += s2.split(".")[1].length;
  }
  catch (e) {
  }
  return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);
};

/**
 ** 除
 **/
CMX.div = function (arg1, arg2) {
  var t1 = 0, t2 = 0, r1, r2;
  try {
    t1 = arg1.toString().split(".")[1].length;
  }
  catch (e) {
  }
  try {
    t2 = arg2.toString().split(".")[1].length;
  }
  catch (e) {
  }
  with (Math) {
    r1 = Number(arg1.toString().replace(".", ""));
    r2 = Number(arg2.toString().replace(".", ""));
    return (r1 / r2) * pow(10, t2 - t1);
  }
};
大家可以复制下来,看看如何,欢迎大家指出错误

  • 2
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 在Vivado中,连续两个小数相乘可以通过使用Xilinx的DSP48硬件模块来实现。DSP48是专为高性能数字信号处理而设计的块。要使用DSP48模块执行乘法操作,需要将乘法操作转化为一系列乘法、加法和位移操作。 首先,我们需要将两个小数转化为二进制形式。然后,将这些二进制数输入到DSP48模块的乘法器中。DSP48模块将执行乘法操作,输出结果是一个乘积。此外,DSP48模块还可以执行加法操作。 在Vivado中,我们可以使用Xilinx的IP(Intellectual Property)库中提供的DSP48模块。通过将两个小数以适当的格式输入到DSP48模块中,我们就可以获得它们的乘积。 此外,还可以在Vivado中使用Verilog或VHDL编程语言来实现连续两个小数相乘。使用这些语言,我们可以使用算术运算符(如乘法符号“*”)来实现乘法操作。 需要注意的是,在进行浮点数计算时,舍入误差可能会积累导致精度损失。因此,在设计中需要考虑到这一点,并确保使用足够位数的数据存储来确保精度。 ### 回答2: 在Vivado中,我们可以使用Xilinx的设计工具Vivado HLS来实现连续两个小数相乘操作。 首先,在Vivado HLS中创建一个新项目。然后,我们需要编写C/C++代码来描述这个操作。以下是一个示例代码: ```c float multiply(float a, float b) { return a * b; } ``` 在代码中,我们定义了一个名为`multiply`的函数,接受两个浮点数参数`a`和`b`,并返回它们的乘积。 接下来,我们需要对我们的代码进行综合和优化。在Vivado HLS中,选择综合选项并运行综合过程。综合过程将会自动将我们的C/C++代码转化为RTL(Register Transfer Level)级别的硬件描述语言。 完成综合后,我们可以进入Vivado工程中,使用Vivado综合工具将RTL代码合成为我们的目标设备上可以运行的比特流文件。 最后,我们可以使用Vivado中的仿真功能来验证我们的设计。在仿真过程中,我们可以输入两个小数作为测试向量,并查看输出结果是否与预期一致。 通过以上步骤,我们可以在Vivado中实现连续两个小数相乘操作。Vivado HLS提供了一种高级综合方法,可以将我们的C/C++代码转换为硬件描述,从而实现高效的硬件设计。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值