关于float计算结果不精确问题

最新推荐文章于 2022-03-03 19:23:12 发布
最新推荐文章于 2022-03-03 19:23:12 发布
阅读量1.7k 收藏 2
点赞数
分类专栏： 一步一个问题
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/tian2342/article/details/52614339
版权

参考文章：Java Float类型 减法运算时精度丢失问题

今天参加面试，面试官问到一个问题，两个float相除怎么证明是否整除，我提出了几个方法，他提示我精度有可能会丢失，然后我就懵逼了，回来搜索了一下发现float和double都是用来科学计算的

float和double的底层实现是二进制的。十进制中的一个有限位数小数，转换成二进制就不一定是有限位数了，一旦位数超过的float和double型的位数宽度，就会出现“精度溢出”

然后提出相对其进行精确计算，需要先进行转换成为BigDecimal对象再进行计算。

add()加法运算
subtract() 减法运算
multiply() 乘法运算
divide() 除法运算
面试虽然炸了，但是学到了以前不知道的东西，算是有所收获吧 大哭

tian2342
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
浮点数计算中的精度丢失
甜筒八部 的专栏
06-20 488
浮点数运算为什么会丢失精度 在内存中存储的浮点数方法格式分别是 float 符号位(1bit) 指数(8 bit) 尾数(23 bit) double 符号位(1bit) 指数(11 bit) 尾数(52 bit) 其中指数也有正负之分，有一个bit位是符号位。 于是，float的指数范围为-128 +127（ -2^7= -128 —— 2^7-1=127） ; 而double的指数范围为-1024 +1023（ -2^10= -10...
iOS 解决floatValue，doubleValue等计算不精确问题，一句话解决精确计算，精确比较
10-15
iOS 解决字符串floatValue，doubleValue等后计算不精确问题，一句话解决精确计算，精确比较
详解iOS之关于double/float数据计算精度问题
01-21
1、我们的app有一个判断，当用户输入的值，小于等于剩余的余额时，给用户弹窗，代码不往下执行 当用户输入 0.01 时，po 一下的结果是：0.10000…. ，当用户的余额是0.01时，po一下网络请求的返回结果是：0.009999… 当用户输入 66.05时，po  一下的结果是：66.049999…，当用户的余额是66.05时，po一下网络请求的返回结果是：66.049999… 所以，当数据较大时，不会有影响，因为用户输入的数据和网络返回数据都被变成了不精确的小值了；但是，当数据较小时，用户输入的数据没有被转，网络返回的数据被转成了不精确的小值，导致用户输入永远大于网络返回的数据，代
唠一唠Mysql:的double和float查询数据不准确的原因
Daisy的博客
08-08 1068
float: 有这样一张表，里面的数据类型为double 但是我们使用 select * from tableName where float_num=2.2,却查询不出来数据。 目前查询select * from tableName where double_num=2.2是能查询到的，但是当double_num的长度到一定数量的时候还是可能会查询不到。 ...
MYSQL数据库中使用float类型精确查询时结果为空问题
awtqty_zhang的专栏
04-22 562
  问题描述： 表A中RechargeAmount字段为float(10,2)类型，当根据此字段的值进行精确查询时，按照平常习惯使用SQL语句为： SELECT * FROM `T_OMC_COMPANY_RECHARGE` where RechargeAmount = 20000.12; 但查询的结果为空（但数据库中是有此值的）。 但当查询值没有小数时，可以查出记录，如：where ...
MySql中float类型的字段，查询不出结果
程宇寒
01-09 3765
MySql中float类型的字段，查询不出结果 今天遇到一个很有意思的问题，之前一直没注意这个问题，记录下来，以此为前车之鉴 在MYSQL中，字段类型为FLOAT的字段，如果不指定FLOAT的长度和小数点位数，要根据FLOAT字段的值精确查找，结果会是空 SELECT * FROM  book WHERE price = 102.73; SELECT * FROM  book ...
mybatis查询float类型异常
wuyuanshun的博客
05-25 1923
mybatis查询float类型异常-mybatis查询float类型结果为空 1.问题 例如我们有一个包含Float类型属性的实体，在通过接口接收对象参数（SpringMVC阶段）没有问题。但是在执行完查询语句后，没有结果。 2.原因分析 有可能是Float类型的精准度丢失，导致数据不准确，可以把Float类型换成Double类型，然后再执行查询或其他数据库操作就可以解决问题了。 ...
Mysql 查询float类型的字段查询不到结果
0_0
06-18 866
问题： select * from payments where status = 1 and payment_fee = 0.31 查询结果为空（可四数据库明明有一条数据满足条件的） 解决： 使用format select * from payments where status = 1 and format(payment_fee,2) = format(0.31,2); 使用concat select * from payments where status = 1 and conca
mysql查询条件为float类型数据（查不到数据）
ZhangYuan2HH的博客
03-03 1769
记一次采坑 数据库明明有一条数据，但因查询条件有float类型数据并带有小数 导致查询不出来 数据为： 查询结果为： 猜测原因是查询时精度导致的。。没细查原因 直接上解决办法： SELECT COUNT(1) FROM yh_coal_price_futures WHERE ( time = '2022-03-02 00:00:00' AND NAME = '动力煤' AND price_type = '结算价' -- AND current_price...
Java中的浮点数据（float、double）进行算术运算时出错的问题剖析
小宇飞刀的BLOG
11-04 1467
本文主题： 对浮点数进行算术运算时，为何运算结果不正确？ BigDecimal类型、常用方法的讲解。 简单的浮点数算术运算工具类的设计。 在Java前面讲解float、double两种基本浮点类型时已经指出，这两个基本类型的浮点数容易引起精度丢失。其实，不仅是Java，很多编程语言也存在这个问题。先看如下程序： public class DoubleTest { public sta...
float类型精度损失问题
小_鱼的专栏
06-10 2401
float范围为： 32 3.4E–038～3.4E+038 double范围为： 64 1.7E–308～1.7E+308 #include     #define EPSILON 0.0001      // Define your own tolerance#define FLOAT_EQ(x,v) (((v - EPSILON) int main()  {      
iOS NSDecimalNumber解决数值计算不精确问题，一句话解决精确计算，精确比较
12-03
iOS 解决数值计算（floatValue,doubleValue）不精确问题，一句话解决精确计算，精确比较
Java 精确计算-double-float-String
07-28
NULL 博文链接：https://thinktothings.iteye.com/blog/801301
Java的数字精确计算问题-BigDecimal
12-22
java的数字运算，偶尔会出现精度的问题，以下阐述的 java的... 　java为了让float或者double类型能够精确的计算，提供了BigDecimal类。 　示例如下： public static BigDecimal getBigDecimal(Doubleval){ //把d
关于Windows端口没被占用提示An attempt was made to access a socket in a way forbidden by its access permissions
热门推荐
tian2342的专栏
10-06 2万+
问题 某软件启动日志一直提示：An attempt was made to access a socket in a way forbidden by its access permissions。 我百度发现全是“netstat -aon|findstr “49157””这种，但是我试了发现没有进程占用。 原因 后来好不容易找到了TCP动态端口起始端口,发现很多人说改这个可以解决问题。 然后查到Windows Vista 和 Windows Server 2008 中，TCP/IP 默认动态端口范围已更改
一次RxJava2导致的线上崩溃问题：The exception was not handled due to missing onError handler in the subscribe()
tian2342的专栏
06-24 1万+
周末正在休(玩)息(LOL)，突然产品告诉我线上崩溃率很高，还记得周五测试很忙，没怎么测产品就急着上线了。 吓得我感觉看了下友盟数据，发现错误频次最高的是一个网络请求无法解析域名的异常： 第一反应：国外用户无法解析我们配置后台数据的域名，但是理论上来说也应该是网络错误，而不是闪退呀。 第二反应：看到错误的抛出地址是 io.reactivex.internal.functions.Fun...
记：海康Unable to load library '../lib/HCNetSDK'
tian2342的专栏
09-18 1万+
我是win7 64 1.sdk32位 jdk就得32位 2.../../lib\\PlayCtrl 路径要\\
Facebook打开，跳转个人首页、动态方式
tian2342的专栏
02-27 7832
1. 启动facebook，如果已经启动，就切换到前台 fun startFacebook(context: Context) { val pkgName = "com.facebook.katana" var intent=context.packageManager.getLaunchIntentForPackage(pkgName); if (intent==nu...
关于Integer比较相等的问题
tian2342的专栏
07-04 7778
作为一个菜鸡，记下来免得忘了。1.通过new出来的两个Integer对象比较时，==是比较的对象地址，等同于一般对象比较的==，equals则会比较其内部的int值是否相等。因为内部重写了equals方法：public boolean equals(Object obj) { if (obj instanceof Integer) { return value == ((I...
java float精确计算
最新发布
05-25
在 Java 中，float 数据类型只能提供 7 位有效数字的精度，因此当进行精确计算时，建议使用 double 数据类型。 另外，可以考虑使用 BigDecimal 类来进行浮点数的精确计算。BigDecimal 类提供了精确的算术运算，可以...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值