现在需要计算一个平方和的公式:
根据公式写出了下面的程序,请问:(1)这个程序是否有问题?
public class CaclTest{
public void test1(int n){
double sum = (n* (n+1)*(2*n+1)) / 6;
System.out.println("sum:" + sum)
}
public static void main(String[] args){
CaclTest ct = new CaclTest();
ct.test1(100);
}
}
(2)当n=100000时,上面的程序是否还能计算出正确结果?
(3)如果修改一下计算程序,下面哪个式子正确:
a. double sum = (n* (n+1)*(2*n+1)) / 6.0;
b. double sum = (n* (n+1.0)*(2*n+1)) / 6;
c. double sum = (n* (n+1)*(2.0*n+1)) / 6;
d. double sum = (n* (n+)*(2*n+1.0)) / 6;
利用原理:在Java中,整型与双精度数相乘会发生数据类型提升(demotion),这意味着整型会自动转换为双精度数进行计算。这个过程不会导致数值上的丢失,因为双精度数可以精确地表示整型的所有值。
也就是说 整型 x 双精度型,整型会转换为2个双精度数相乘;整型 x 整型 结果仍然为整型,可能会溢出,导致结果不正确。
现在回答上面的问题:
(1)当n=100时,这个程序没有问题,可以正常算出结果。
(2)当n=100000时,这个程序不能计算出正确结果。
(3)正确的写法只有b。其他几个为什么不正确呢:
a. 整型x整型,100000*100000=1e10, 而Java语言中Integer型最大值只有:2147483647(2^31-1),结果会溢出,发生溢出后,后面计算的结果都不会对了。
c. 仍然是int * int,再乘double型,会发生溢出。
d. 与a,c 类似。
只有b选项是int * double,这时会发生数据类型提升,整型会转换为双精度计算;接着第2步double * int,发生数据类型提升;最后一步double / int 发生数据类型提升,所以结果正确。