浅谈c语言中浮点数的精度问题

众所周知,在生活中常常出现因精度而产生的各种问题,如流水线生产出现个别产品量的缺少等,这是无法避免的,因此常常规定,只要保证误差在一定范围内就算合格。在c语言中也会存在类似的问题

如下面这段程序


粗略计算一元二次方程的根(当然在严密的纯数学问题里不存在精度不够的问题,此处小编只是随便找个当例子)

在此采用宏的方式,给定一个合理的误差范围,从而解决误差问题

那么为什么会存在误差呢

原来,浮点数存在精度问题,如float(4字节),double(8字节),(精度越来越高,占字节数越多)精度即使再高,也是有限的,在计算机中,越是精度高,需要占的内存越大,而在解决实际问题中成本也就越大,因此不得不结合考虑精度与成本的问题。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值