Double-精度丢失-解决方法

本文探讨了Double精度丢失问题,提出了两种解决方案:一是将double值转换为字符串进行传输以避免精度损失;二是利用NSDecimalNumber进行高精度计算,确保数值的准确性。这两种方法旨在实现数据的准确可视性。
摘要由CSDN通过智能技术生成

1.可以在传递给服务器时采用字符串的形式进行参数的传递。因为double天然的缺陷,在保存成二进制时会出现精度丢失。保存成字符串是一种非常容易的解决方案。
(精度丢失原因,更详细的请自行百度,我的目的只是实现数据的可视性、保留两位或者多位)
2.使用NSDecimalNumber进行计算。
//注意:

// 1.一般我们保存成.2f时,会进行四舍五入。
// 2.double转换为NSInteger时,会把小数点后的小数给截取掉。
double x1 = 0.026;
System.out.println(String.format("%.2f", x1));

2.数据转换

// 方案一:
get_double = (double)(Math.round(result_value*100
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值