[Python]关于浮点数计算时的误差问题及其解决方法
而内存只会划分有限的空间来保存一个小数,所以当我们想要保存这个0.2的数字时,只会截取二进制数字中的一部分来保存,而当我们重新通过被截取的二进制数字来计算对应的十进制数字,就会产生误差。浮点数一个普遍的问题就是在计算机的世界中,浮点数并不能准确地表示十进制。并且,即便是最简单的数学运算,也会带来不可控制的后果。然后再将小数部分乘以2,将得到的整数部分作为二进制表示的第2位;,这导致了在计算过程中精度的丢失。,有的有限十进制小数只能使用无限的二进制小数表示。出现这种问题的原因是,计算机中保存数字的寄存器是。
原创
2024-09-30 16:35:25 ·
302 阅读 ·
0 评论