float的精度误差1e-6,double精度误差在1e-15
判断一个float型数:if(fabs(f) < 1e-6);
判断一个double型数:if(fabs(f) < 1e-15);
若为真,则看作相等。
PS:fabs()是对浮点数求绝对值,abs()是对整数求绝对值。
float的精度误差1e-6,double精度误差在1e-15
判断一个float型数:if(fabs(f) < 1e-6);
判断一个double型数:if(fabs(f) < 1e-15);
若为真,则看作相等。
PS:fabs()是对浮点数求绝对值,abs()是对整数求绝对值。