1,转换为整数进行计算。
2,采用BCD(Binary Coded Decimal)方法。
3,想办法忽略,如计算时不用==,而用相减<0.00001,符号进行大小判断。
总之,整数计算是不会出错的
总之,数字是可以变换的,整数小数可以转换(上面说的前两种方法),正数负数可以转换(如EXCESS系统)。
计算机,计算器二进制小数计算如何避免进制转换造成的误差
最新推荐文章于 2022-08-04 10:04:14 发布
1,转换为整数进行计算。
2,采用BCD(Binary Coded Decimal)方法。
3,想办法忽略,如计算时不用==,而用相减<0.00001,符号进行大小判断。
总之,整数计算是不会出错的
总之,数字是可以变换的,整数小数可以转换(上面说的前两种方法),正数负数可以转换(如EXCESS系统)。