denghubu的专栏

原创 导线平差精度的控制的研究与实现

<br />    在导线平差中，对于double型数据，在计算过程中存在数据的丢失，会导致结果不准确。而平差对于精度的要求比较高，在工程应用中，这也是一个亟需解决的问题。本文研究是为了解决double型的加减运算时的精度无法控制的问题，按照本文所设计的算法可以使计算结果可以精确到小数点后6位。1.     基本思路<br />分别写一个加法和减法的方法，将两个double型的数据的每一位一一取出，放在数组中，再对两数相应的位一一进行加减运算，最后将计算的结果数组转化为double型的数据返回。2.   具