计算机处理浮点数时的误差处理技巧

通常计算机在处理浮点数时,会产生误差,下面介绍一种方法,可消除部分误差的产生。如:
var
  a,b,c:real;
begin
  a := 68;
  b := 5.6;
  c := trunc(a*b*10)/10;
  ShowMessage(floatToStr(c));
end;
这个算式的正确结果应该是:380.8,但你试着用计算机执行一下看看结果是什么?奇怪,怎么是380.7呢?呵呵,用下面我教你的方法,计算结果就为380.8了。
var
  a,b,c:real;
begin
  a := 68;
  b := 5.6;
  c := trunc(a*b*10+0.00001)/10;
  ShowMessage(floatToStr(c));
end;

在算式中加个足够小的小数,理论上不会对你的正确结果造成影响,但它确消除了误差,不信你试试。

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值