1、汇编中,移位以及移位时的溢出如何处理
2、补码加运算时(当然,计算机中,都是补码进行加运算的),溢出和舍掉最高位 如何决定的
3、计算机进行乘除时,如何进行的
4、有没有Java中的方法,可以使得我们知道,一个float或者double是不是近似值?
例如:float=34.6f中,事实上,我们看到的34.6f,在内存中的实际值是十进制的:3.4599998474121094,其二进制是:0100 0010 0000 1010 0110 0110 0110 0110(这个二进制是IEEE-754格式的,1个符号位,8个阶码位,23个数值位,事实上,有个隐藏位,就在阶码位后面,其值为1。当然,这个隐藏位在Float.floatToIntBits()没有任何作用,Float.floatToIntBits()严格按着这里的 bit layout得到一个整数的补码,根据这个整数的补码,可以得到这个整数,或正或负)
这里,我们看到了34.6f,其实的值是:3.4599998474121094。那么有没有什么办法,可以知道任何一个float, double到底是不是近似值呢?
另外:其实还是书本上面讲的最清楚,那里才是最严格的定义
1、定点小数、定点整数等:
http://218.5.241.24:8018/C35/Course/ZCYL-HB/WLKJ/jy/Chap02/2.1.1.1.htm
2、原码、反码、补码、移码的定义
http://218.5.241.24:8018/C35/Course/ZCYL-HB/WLKJ/jy/Chap02/2.1.1.2.htm
当然,除了这些东西,最和工作相关的就是 BigDecimal, DecimalFormat 里面的API啦,要好好看看,因为后面会处理货币的
根据下面链接中的错误,给他找下,到底精确度错误在什么地方,分析一下,估计会对浮点数有更深入的理解
http://blog.csdn.net/jamph/archive/2009/11/04/4765977.aspx
Good luck