在使用delphi中对DOUBLE类型比较问题

最新推荐文章于 2022-12-19 19:31:15 发布
最新推荐文章于 2022-12-19 19:31:15 发布
阅读量3.6k 收藏
点赞数
分类专栏： Delphi专栏 文章标签： delphi 文档
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lovewjp/article/details/7950393
版权

在使用Delphi开发过程中，发现对double类型的变量进行比较的时候，会出现意想不到的结果。

解决办法是通过使用RoundTo函数对double进行四舍五入操作后再比较。

关于RoundTo函数的使用，可以参考帮助文档。

 

Expression Value

RoundTo(1234567, 3) 1234000
RoundTo(1.234, -2) 1.23
RoundTo(1.235, -2) 1.24
RoundTo(1.245, -2) 1.24

lovewjp
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Delphi 中关于Double类型精度以及使用Ceil和Trunc取整引发的问题
TheRedFox的博客
04-29 1383
在最近的工作中，遇到一个BUG，本应是1200的一个变量，结果却变成了1199，找了一会，发现是由于Double的存储引起的。 问题简化如下： var d: Double; begin try d := 1.2; Writeln(Trunc(d * 1000)); Readln; except on E: Exception do Wr...
基于delphi 的两个数比较大小系统
06-20
两个数比较大小，点击大于号，小于号，等于号，如果是正确的则显示YeS，如果是错误的则显示NO
Delphi中currery和double比较解析问题说明
zisongjia的博客
05-09 448
交流学习：2609715119由于currery和double属于不同的字段类型，因此在明面上虽然都是一样的，例如：0.2，但是double类型的0.2会大于currery类型的0.2.解决这样的问题就需要一个comparevalue数学函数进行强制转换进行比较。comparevalue的具体用法请参看博客：comparevalue用法...
比较两个Double类型的数据
yflxc的专栏
08-06 1296
double a = 0.001;  double b = 0.0011;  BigDecimal data1 = new BigDecimal(a);  BigDecimal data2 = new BigDecimal(b);  data1.compareTo(data2) //
float double的内存表示及比较大小的方法
weixin_34148508的博客
03-11 159
参考： float和double类型的内存分布和比较方法收藏 Comparing floating point numbers 总结几点： 0. float占4byte，精度是6~7位；double占8byte，精度是15~16位。 1. C/C++的浮点数据类型有float和double两种。它们在内存中是以科学计数法的结果来存储的。 类型float大小为4字...
double数据类型及在Delphi中的定义方式
sz0557it的专栏
06-25 2281
Double（双精度浮点型）是计算机使用的一种资料型别。比起单精度浮点数(float)，Double(双精度浮点数)使用 64 位（8字节） 来储存一个浮点数，速度当然要比Float要快。 它可以表示十进制的15或16位有效数字，负值取值范围为 -1.79769313486231570E+308 到 -4.94065645841246544E-324，正值取值范围为 4.9406564584124
delphi 中CompareValue用法及比较两个相同的值但却提示不相等的问题解决办法
zisongjia的博客
05-02 2885
交流QQ:2609715119CompareValue中的参数类型只能是Integer、Int64、Single、Double、Extended但是一个CompareValue函数中的参数类型要一致，否者即使看上去一样但是比较结果也不一样/ 比较两个相等的浮点数  case CompareValue(A, B) of    LessThanValue    : ShowMessage('A &lt...
C++Builder和Delphi的数据类型比较
06-03
在探讨C++Builder和Delphi的数据类型比较时，我们深入分析了两种编程环境中常见的数据类型，这不仅有助于理解这两种环境的特性和差异，还能为开发者选择合适的类型提供指导。以下是对给定表格中的数据类型进行的详细...
Delphi中对时间操作方法汇总
09-04
本文将详细介绍Delphi中对时间操作的方法，帮助开发者更深入地理解如何在代码中有效地管理日期和时间。 首先，我们来看Delphi中表示时间的数据结构。最常用的是`TDateTime`类型，它实际上是一个`Double`类型的数值...
使用常量_初学者_delphi7_使用常量_
10-04
Delphi7中的常量可以是各种基本数据类型，如整型（Integer, Byte, ShortInt等）、浮点型（Real, Double, Single等）、字符型（Char）以及布尔型（Boolean）。此外，还可以用字符串（String）作为常量，但此时需要...
Delphi使用AVG函数汇总数据
05-18
本篇文章将深入探讨如何在Delphi环境中使用AVG函数来汇总数据。 首先，AVG函数在SQL中广泛使用，它用于计算指定列的平均值。在Delphi中，通常会通过ADO（ActiveX Data Objects）或BDE（Borland Database Engine）...
Delphi与Windows API数据类型对照表
07-09
本文将详细解释《Delphi与Windows API数据类型对照表》中列出的关键数据类型及其用途。 #### Windows 数据类型与 Delphi 数据类型的对照 ##### 1. LPSTR / LPCSTR - PAnsiChar - **LPSTR** 和 **LPCSTR**：这两个...
delphi 三个小数比较
zhongping988的专栏
09-10 648
delphi  三个小数比较
比较double类型数值的方法
qq_32352367的博客
06-05 5208
1. compare方法 如果要比较d1与d2两个double类型的数值，可以调用java.lang.Double中的Compare方法 new Double(d1).compareTo(new Double(d1)) 依据返回值判断大小:   若等于0，则说明d1在数值上等于d2，   若大于0，则说明d1在数值上大于d2，   若小于0，则说明d1在数值上小于d2， 2. 自己编写equal函数，设定允许的误差范围   设定一个精度esp，当两个double类型数字的差的绝对值小于esp，则认为
Delphi数学常用操作函数一
kimifdw的专栏
02-17 8181
1.Abs function Abs(X);：返回指定数值的绝对值。例如： Abs(-15); //结果为15   2. Ceil、Floor Ceil function Ceil(const X: Extended):Integer;：按正无穷大方向四舍五入一个变量。例如： Ceil(-2.8) = -2; Ceil(2.8) = 3; Ceil(-1.0) = -1; F
两个浮点数比较大小
future_ai的博客
12-10 1614
bool qFuzzyCompare(double p1, double p2) 比较浮点值p1和p2，如果认为它们相等，则返回true，否则返回false。 注意，比较p1或p2为0.0时的值是无效的，比较其中一个值为NaN或infinity时也是无效的。如果其中一个值总是0.0，则使用qFuzzyIsNull代替。如果其中一个值可能是0.0，一种解决方案是给两个值都加上1.0。 //和0.0进行比较 qFuzzyCompare(0.0, 1.0e-200); // return false .
double类型的变量与0的对比
肩上风骋的博客
12-19 7953
日常总是会遇到double类型变量与0之间的比较。非严格情况下直接与0比较了，但实际上这是一种错误的写法。double为双精度类型，其一般保留15为小数。而Flaot单精度类型一般保留6为小数。故而不能直接与0进行比较，虽然有时候会得到自己想要的结果，但并不严谨。
DELPHI 让子窗体显示在任务栏上
10-20 4033
重载 CreateParams 方法 procedure CreateParams(var Params: TCreateParams);override; procedure TForm2.CreateParams(var Params: TCreateParams); begin inherited; Params.WndParent := 0; end;
delphi Double数据类型
最新发布
05-25
在 Delphi 中，Double 是一种浮点数据类型，用于表示双精度浮点数。它占用 8 个字节，在内存中的范围为 -1.7E308 到 1.7E308 ，精度为 15-16 位有效数字。以下是 Double 数据类型的声明和使用示例： ``` var myDouble: Double; begin myDouble := 3.14159265358979; ShowMessage(FloatToStr(myDouble)); end; ``` 在上面的示例中，我们声明了一个 Double 类型的变量 myDouble，并将其初始化为圆周率。然后，我们使用 FloatToStr 函数将其转换为字符串，并将其显示在消息框中。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值