在儒略日转GPS时间的时候,要把儒略日的天、一天中的秒分开,不然会导致精度损失。
秒转成日的时候,会损失精度,这样计算出来的GPS秒精度会不够。
double a=10222.000347222202;
double WN=1460.0;
double b=a-WN*7.0;
b计算出来的数字为:2.0003472222015262
手算的话应该是: 2.000347222202;
这是为什么,精度损失了。高精度的计算库都是基于字符串进行计算的。《数值计算与数据处理编程及实践》
在儒略日转GPS时间的时候,要把儒略日的天、一天中的秒分开,不然会导致精度损失。
秒转成日的时候,会损失精度,这样计算出来的GPS秒精度会不够。
double a=10222.000347222202;
double WN=1460.0;
double b=a-WN*7.0;
b计算出来的数字为:2.0003472222015262
手算的话应该是: 2.000347222202;
这是为什么,精度损失了。高精度的计算库都是基于字符串进行计算的。《数值计算与数据处理编程及实践》