Double在MySQL ClickHouse TDengine 中的显示精度

Double类型精度为15-16位,如果超过该范围,数据就会失真。以下实验在MySQL、ClickHouse、TDengine 三种不同数据库中,输入数据超过16位情况下,查看其显示精度。

MySQL:不用多介绍,已经是老牌数据库(Database)了。
ClickHouse:列式数据库,主要用于数据分析(OLAP)领域。
TDengine:最近特别火的时序数据库。

声明:此实验无任何目的,也没什么意义。

Double类型说明:
在这里插入图片描述

MySQL

create table tb(v1 int,v2 double);
insert into tb values(10,1234567890);
insert into tb values(15,123456789012345);
insert into tb values(16,1234567890123456);   
insert into tb values(17,12345678901234567);
insert into tb values(18,123456789012345678); 
insert into tb values(19,1234567890123456789); 

在这里插入图片描述

ClickHouse

create table tb(v1 int,v2 double) engine=TinyLog
insert into tb values(10,1234567890);
insert into tb values(15,123456789012345);
insert into tb values(16,1234567890123456);   
insert into tb values(17,12345678901234567);
insert into tb values(18,123456789012345678); 
insert into tb values(19,1234567890123456789); 

在这里插入图片描述

TDengine

TDengine是时序数据库,建表时第一列必须是时间戳。

create table tb(ts timestamp,v1 int,v2 double);
insert into tb values(1638630000010,10,1234567890);
insert into tb values(1638630000015,15,123456789012345);
insert into tb values(1638630000016,16,1234567890123456);   
insert into tb values(1638630000017,17,12345678901234567);
insert into tb values(1638630000018,18,123456789012345678); 
insert into tb values(1638630000019,19,1234567890123456789); 

在这里插入图片描述

结论

三种数据库对double数据的处理都没有问题,不过个人感觉MySQL的显示可读性更强。

补充实验:

ClickHouse

test1.dyq.com :) insert into tb values(6748392716482657358);

INSERT INTO tb VALUES

Ok.

1 rows in set. Elapsed: 0.011 sec. 

test1.dyq.com :) select * from tb;

SELECT *
FROM tb

┌──────────────────v1─┐
│ 6748392716482657000 │
└─────────────────────┘

1 rows in set. Elapsed: 0.010 sec. 

TDengine

taos> insert into tb values(now,6748392716482657358);
Query OK, 1 of 1 row(s) in database (0.005863s)

taos> select * from tb;
           ts            |            v1             |
======================================================
 2021-12-05 17:23:01.715 | 6748392716482657280.000000000 |
Query OK, 1 row(s) in set (0.008368s)

将数据进行二进制转换

[root@test1 ~]# echo "obase=2;6748392716482657358"|bc
101110110100111000110110110101111001110110010000011110001001110
[root@test1 ~]# echo "obase=2;6748392716482657280"|bc
101110110100111000110110110101111001110110010000011110000000000
[root@test1 ~]# echo "obase=2;6748392716482657000"|bc
101110110100111000110110110101111001110110010000011101011101000

从结果来看,貌似ClickHouse把16位以后的数直接补0处理了。

### 回答1: MySQL的float和double都是浮点数类型,用于存储小数。float类型占用4个字节,double类型占用8个字节。float类型的精度为单精度,即有效数字为7位,double类型的精度为双精度,即有效数字为15位。因此,double类型的精度比float类型更高。在存储小数时,如果需要更高的精度,建议使用double类型。 ### 回答2: MySQLfloat和double是两种数值型数据类型,用来存储带有小数部分的数字。它们的差别在于所占用的存储空间以及精度的不同。 float数据类型可以存储一个单精度浮点数,占用4个字节的存储空间。它的精度大约是7位小数,也就是说,如果使用float来存储一个数值型数据,显示出来的小数部分最多只有7位数字是精确的。如果超过这个位数,就会出现舍入误差。 double数据类型则可以存储一个双精度浮点数,占用8个字节的存储空间。它的精度大约是15位小数,也就是说,使用double来存储一个数值型数据,显示出来的小数部分最多只有15位数字是精确的。与float相比,double精度更高,可以避免更多的舍入误差。 需要注意的是,在MySQL,float和double类型的数据存储方式是采用IEEE 754标准来进行存储的。这个标准规定了浮点数的存储结构,即数值的二进制表示、小数点位置、指数大小等等。因此,在使用float和double类型时,需要遵循这个标准来进行数据的处理,以避免数据的不正确处理。 总之,在选择float还是double类型时,需要根据具体的需求来确定。如果数据的精度要求不是很高,可以使用float类型来进行存储。而如果需要更高精度的数据计算,则应该使用double类型来进行存储。在实际的开发过程,也可以根据数据的具体情况进行试验和优化,以获得更加精确的数据计算结果。 ### 回答3: 在MySQL,float和double都是数值型数据类型,用于存储浮点数,但是它们之间存在着一些区别。 float是单精度浮点数,占用4个字节,能够存储大约7位小数,可以表示的数值范围是-3.4E38到3.4E38。在使用float类型时应该注意,由于精度有限,可能会出现舍入误差,因此不建议对其用于需要高精度计算的场景。 double是双精度浮点数,占用8个字节,能够存储大约15位小数,可以表示的数值范围是-1.7E308到1.7E308,它的精度比float更高,因此更适用于需要高精度计算的场景。 当我们需要更高的精度时,可以考虑使用decimal数据类型。decimal是一种高精度的定点数,可以存储比float和double更多的有效数字。它的存储空间和精度取决于所定义的长度和精度,但是它相较于float和double存储量更大,在处理一些需要大数值范围和高精度的计算时,decimal比double更可靠,即使在高精度的计算它也可以保持精度不变。 在使用浮点数时需要注意避免计算误差,尤其在需要进行高精度计算时更为明显。为了保证计算的正确性,我们可以采用其他的方法来保证浮点数的计算精度,例如,分离整数部分和小数部分,使用整数进行计算,最后将结果转换成浮点数,或者使用一些高精度计算的库函数进行计算等。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

DBA大董

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值