Android SQLite对Float类型存储坑

现象:SQLite利用ContentValues存入float类型数据时,1.1f在数据库中存入的会是1.100000023841858;

这里写图片描述

查看Android源码SQLiteConnection.class,整个过程是预编译SQL语句,然后绑定参数到SQL语句中,发现对Float类型的转换是直接强转Number类型,然后获取double值的,这样转换直接由四个字节转八个字节,补位会使得float数值精度改变,造成数据精度问题

  case Cursor.FIELD_TYPE_FLOAT:
     nativeBindDouble(mConnectionPtr, statementPtr, i + 1,
     ((Number)arg).doubleValue());
     break;
 float a = 1.1f;
 double v1 = ((Number) a).doubleValue();
 System.out.println(v1);//1.100000023841858

由于计算机二进制计数特质,以及浮点数表示数的计数方式,Float强转Double,Double转Float均会出现精度问题。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值