float类型的数据和无穷小的比较

23 篇文章 0 订阅

float类型的数据和无穷小的比较

coding 时,偶尔需要对浮点型数据进行比较,尤其是判断两个浮点型数据是否一致时,需要把两个浮点数之差的绝对值和float.Epsilon比较
其中 float.Epsilon是大于零的最小浮点数(大约为1.401298E-45)

以判断浮点数只能为 1 -1 和 0 为例

//和 1 -1 0 比较
if ((Math.Abs(X0) < float.Epsilon || Math.Abs(X0 - 1) < float.Epsilon || Math.Abs(X0 + 1) < float.Epsilon){}

当然有时候,数据的精确位数达不到1E-45,这样比较是不行的,下图中的第三个数据,就无法满足和0的比较,因为它的绝对值是大于float.Epsilon
在这里插入图片描述
因为数据精度的问题,想要比较,需要把比较的阈值放宽,阈值要比float.Epsilon大,比如可以使用 1E-10,这样上图的第三个数据就可以和1E-10进行比较,

//和1E-10比较
if ((Math.Abs(-1.224647e-16) < 1E-10)){}

当然代码中的1E-10 也可以表示成Math.Pow(10,-10)
需要根据项目的需求,结合实际数据的精度,再进行比较

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值