浮点数相关问题

Q1:浮点数能被精确地表示吗

不一定。
0.3就不能被精确表示。

1 / 4 = 0.25-----------------------------------------------------小了,加上这一位,继续加下一位。
1 / 4 + 1 / 8 = 0.375------------------------------------------大了,舍掉1 / 8,接着往下一位加。
1 / 4 + 1 / 16 = 0.3125--------------------------------------大了,舍掉1/16,接着往下一位加。
1 / 4 + 1 / 32 = 0.28125------------------------------------小了,加上这一位,继续加下一位。
1 / 4 + 1 / 32 + 1 / 64 = 0.296875---------------------- 小了,加上这一位,继续加下一位。
1 / 4 + 1 / 32 + 1 / 64 + 1 / 128 = 0.3046875---------大了,舍去这一位,判断是否加下一位。
………………………………
0.3 = 0 × 0.5 + 1 × 0.25 + 0 × 0.125 + 0 * 0.075 + ……

0.25就可以被精确表示。

Q2:两个浮点数怎么比较(>、<、!= 、==)

  1. 浮点数可以直接比较大小。
  2. 浮点数不能直接进行==、!=比较
    因为计算机无法准确表示浮点数,因此只能通过精度来比较两个浮点数是否相等。
Double a = 1.1;
Double b = 1.1;
bool equal = Math.abs( a - b ) < 1e - 6;
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值