0.1 - x 的近似的十进制值是多少?
这也是CSAPP中练习题2.46 的 第 2 小问。
0.1 在计算机中的表示 0.00011 0011[0011]…,对于 x,x 也是0.1在计算机中表示的二进制小数,只是这里只考虑这个序列的二进制小数点右边的前23位,即x =0.00011001100110011001100。
0.1 - x = 0.00000 00000 00000 00000 00011 0011[0011]…,也就是求这个数的十进制表示,那么这个数是多少呢?
书中答案给的是(2 ^ -20) * 1 / 10,刚开始不知道为什么是这样。
书中的答案里有这么一句话:“把这个(0.1 - x)与 0.1 的二进制进行比较“,进行比较,进行比较,看出来了没?0.1 - x 的二进制值就相当于把0.1那个数右移20位,所以就是 0.1 * (2 ^ -20).
刚开始我怎么想都想不明白,从哪儿冒出来个 1 / 10 啊,还乘以 2 ^ -20,先是百度,没找到,又去Google,还去Stackoverflow去search,最终决定在CoCode.cc上提问,可喜的是在我把问题一步步写好之后,仔细揣摩作者给的答案里的那句话,自己就想到了答案所在。当然问题就不用发啦。^_=
这再次体现了把问题描述清楚是多么地重要!还要多思考,多比较。