今天,写了一个矩阵法求定积分的函数,发现无论如何更改,结果总是0.后来发现是数据类型整错了,进行除法时一定要注意数据类型。
下面将常用的int,float类型分别做除数,被除数看得出的结果如何。
1.int/int 毫无疑问,结果为int型,如1/2,结果为0
2.int/float 结果仍为0
3.float/int 结果为0.500000
4.float/float 结果为0.500000
综上可得,如要得到指定类型的结果,被除数必须为相对应的类型.
今天,写了一个矩阵法求定积分的函数,发现无论如何更改,结果总是0.后来发现是数据类型整错了,进行除法时一定要注意数据类型。
下面将常用的int,float类型分别做除数,被除数看得出的结果如何。
1.int/int 毫无疑问,结果为int型,如1/2,结果为0
2.int/float 结果仍为0
3.float/int 结果为0.500000
4.float/float 结果为0.500000
综上可得,如要得到指定类型的结果,被除数必须为相对应的类型.
转载于:https://www.cnblogs.com/zhanglehpu0419/p/11277026.html