Delphi 中关于Double类型精度以及使用Ceil和Trunc取整引发的问题

红色尾巴的狐狸

于 2020-04-29 17:42:31 发布

阅读量1.5k

点赞数 2

分类专栏： Delphi Basics 文章标签： delphi

本文链接：https://blog.csdn.net/TheRedFox/article/details/105844065

版权

在Delphi编程时，一个预期为1200的Double变量因存储精度问题变为1199。这源于浮点数在内存中的存储格式。进行简化实验后发现，当double存在精度损失时，使用Ceil和Trunc进行浮点数取整可能不按预期工作，需要注意此类情况。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在最近的工作中，遇到一个BUG，本应是1200的一个变量，结果却变成了1199，找了一会，发现是由于Double的存储引起的。

问题简化如下：

var
  d: Double;
begin
  try
    d := 1.2;
    Writeln(Trunc(d * 1000));
    Readln;
  except
    on E: Exception do
      Writeln(E.ClassName, ': ', E.Message);
  end;
end.

运行结果如下：

结果并不是意料中的1200，而是1199。

这是由于浮点数在内存中的存储格式引发的问题，具体的可以点击看这篇文章

由此，发散思维，做了几组对比实验。代码如下：

var
  dTest: Double;
begin
  //实验1
  dTest := 1.2;
  Writeln('当dTest赋值为1.2,你以为的dTest: 1.2,');
  Writeln('实际内存中存的dTest: ' + Format('%.18f', [dTest]));
  Write('你以为Ceil(dTest * 100

最低0.47元/天解锁文章