在我们的观点中,1.0和1是相等的,但是在程序中,起码在JAVA中,1.0和1是不相等的,如果要判断1.0和1是否相等,可以这么写(1.0-1==0.0),
但是还有一种情况,(1.3-1)/0.3 和(3.3-3)/0.3,这两个式子的运算结果也不相同,一个是1.0000000000000002,一个是0.9999999999999994
如何使这两个式子的结果相等呢,我们一般计算实数的时候都会保留有效数字,如果保留小数点后两位,可以这么写(130-100)/30 和(330-300)/30,分别放大分子分母,得到
的结果就是我们认可的结果,这就好比数学中的样本容量越大,误差越小的理论。