float和double丢失精度问题,可用Long来转换

public class MainActivity extends Activity {
//    float f = 533764366.99f;
    Long f = 533764366232377L;
    @Override
    protected void onCreate(Bundle savedInstanceState) {
        super.onCreate(savedInstanceState);
        setContentView(R.layout.activity_main);
        Log.d("=====ff22", formatDoubleData2(f));
        Log.d("=====ddd", format(f));
        Log.d("=====df", dataComma(String.valueOf(f)));
    }
    public static String formatDoubleData2(float f) {
        DecimalFormat decimalFormat = new DecimalFormat("#");
        String p = decimalFormat.format(f);
        return p;
    }
    public static String format(float f) {
        BigDecimal bigDecimal = new BigDecimal(f);
        String result = bigDecimal.toString();
        return result;
    }


}
这边要用Long类型来表示大数值,如果你用float会丢失精度,输出的值位

D/=====ff22: 533764352
D/=====ddd: 533764352
D/=====df: 5.33764352E8


浮点运算很少是精确的,只要是超过精度能表示的范围就会产生误差。往往产生误差不是 因为数的大小,而是因为数的精度。因此,产生的结果接近但不等于想要的结果。尤其在使用 float 和 double 作精确运 算的时候要特别小心。

可以考虑采用一些替代方案来实现。如通过 String 结合 BigDecimal 或 者通过使用 long 类型来转换。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值