上一篇博客我写了浮点数的存储方式，但其实浮点数里面还有一个重要的问题，就是精度的问题。
首先我们要了解的就是浮点数的精度的来源：为什么会有精度的问题？
首先我们得知道实数是一个连续的无穷集合，即使是范围在-1 - 1之间的实数组成的集合也是无穷的。而由浮点数表示方法来看，对于确定阶码和尾数位数的浮点数，其个数是有限的。同时随着阶码的增大，相邻俩浮点数间的 距离会越来越大。单精度浮点数最大值为m1=340282346638528870000000000000000000000．0，次大值为 m
浮点数里面的重要问题—精度
最新推荐文章于 2024-07-11 10:31:45 发布
浮点数精度问题源于实数集的无限性和浮点数表示的有限性，导致大多数数值存储时存在精度损失。理解误差可通过举例，如测量工具误差1m，实际距离200m时，199~201被认为是准确的。在编程中，通常设定浮点数精度如EPS=0.000001，用于0的比较。例如，判断浮点数是否等于0：if(-EPS <= a && a <= EPS)，大于0：if(a > EPS)。在处理一元二次方程等涉及浮点数计算的程序中，考虑精度问题至关重要。
最低0.47元/天 解锁文章
198
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
