float数据相减出现精度丢失问题

今天发现两个float数据相减出现精度丢失问题

    float newsw = 150f;
	float oldsw = 154.4f;
	float dv = oldsw - newsw;
	System.out.println(dv);

正常情况下应该输出4.4,结果却输出4.399994,经研究可以改成以下代码解决

    float newsw = 150f;
	float oldsw = 154.4f;
	BigDecimal newbd = new BigDecimal(String.valueOf(newsw));
	BigDecimal oldbd = new BigDecimal(String.valueOf(oldsw));
	float dv = oldbd.subtract(newbd).floatValue();
	System.out.println(dv);



 

小数点字符串相减时,为了不丢失精度,可以将字符串转换为高精度的整数,然后进行减法运算,最后再将结果转换回字符串。具体的实现可以采用以下步骤: 1. 将小数点字符串转换为整数数组,例如 "123.456" 转换为 [123, 456]。 2. 判断小数点后面的位数,例如 "123.456" 后面有三位小数。 3. 将整数数组中小数点后面的位数向左移动相应的位数,例如 [123, 456] 向左移动 3 位后变为 [123456, 0]。 4. 将整数数组中的每个元素相应位置相减,例如 [123456, 0] 减去 [123, 456] 后变为 [123333, -456]。 5. 处理负数,将负数部分向前借位,例如 [123333, -456] 处理后变为 [122877, 544]。 6. 将整数数组转换为字符串,例如 [122877, 544] 转换为 "122877.544"。 代码示例: ```python def sub_float_str(str1, str2): int1, frac1 = map(int, str1.split('.')) int2, frac2 = map(int, str2.split('.')) frac_len = max(len(str(frac1)), len(str(frac2))) frac_scale = 10 ** frac_len int_scale = frac_scale * 10 num1 = int1 * int_scale + frac1 * frac_scale num2 = int2 * int_scale + frac2 * frac_scale diff = num1 - num2 if diff < 0: sign = '-' diff = -diff else: sign = '' int_diff, frac_diff = divmod(diff, frac_scale) int_diff_str = str(int_diff) frac_diff_str = str(frac_diff).rjust(frac_len, '0') res = sign + int_diff_str + '.' + frac_diff_str return res ``` 这个函数可以计算两个小数点字符串的差值,并返回一个字符串,保证了精度丢失。例如: ```python >>> sub_float_str('123.456', '78.9') '44.556' ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值