2010-11-28 float, double学习中,依然不懂的内容

1、汇编中,移位以及移位时的溢出如何处理

 

2、补码加运算时(当然,计算机中,都是补码进行加运算的),溢出和舍掉最高位 如何决定的

 

3、计算机进行乘除时,如何进行的

 

4、有没有Java中的方法,可以使得我们知道,一个float或者double是不是近似值?

例如:float=34.6f中,事实上,我们看到的34.6f,在内存中的实际值是十进制的:3.4599998474121094,其二进制是:0100 0010 0000 1010 0110 0110 0110 0110(这个二进制是IEEE-754格式的,1个符号位,8个阶码位,23个数值位,事实上,有个隐藏位,就在阶码位后面,其值为1。当然,这个隐藏位在Float.floatToIntBits()没有任何作用,Float.floatToIntBits()严格按着这里的 bit layout得到一个整数的补码,根据这个整数的补码,可以得到这个整数,或正或负)

这里,我们看到了34.6f,其实的值是:3.4599998474121094。那么有没有什么办法,可以知道任何一个float, double到底是不是近似值呢?

 

另外:其实还是书本上面讲的最清楚,那里才是最严格的定义

1、定点小数、定点整数等:

http://218.5.241.24:8018/C35/Course/ZCYL-HB/WLKJ/jy/Chap02/2.1.1.1.htm

2、原码、反码、补码、移码的定义

http://218.5.241.24:8018/C35/Course/ZCYL-HB/WLKJ/jy/Chap02/2.1.1.2.htm

 

 

当然,除了这些东西,最和工作相关的就是 BigDecimal, DecimalFormat 里面的API啦,要好好看看,因为后面会处理货币的

 

根据下面链接中的错误,给他找下,到底精确度错误在什么地方,分析一下,估计会对浮点数有更深入的理解

http://blog.csdn.net/jamph/archive/2009/11/04/4765977.aspx

 

 

Good luck

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值