float,decimal精确度比较
float,double容易产生误差,对精确度要求比较高时,建议使用decimal来存,decimal在mysql内存是以字符串存储的,
用于定义货币要求精确度高的数据。在数据迁移中,float(M,D)是非标准定义,最好不要这样使用。M为精度,D为标度。
mysql> create table t1(c1 float(10,2), c2 decimal(10,2),c3 float); // 10不包括小数点
mysql> insert into t1 values(1234567.23, 1234567.23,1234567.23);
mysql> select * from t1;
数据显示与所用的客户端工具有关
1.在Toad for MySQL中的显示为
c1 c2 c3
1234567 1234567.23 1234570
2.在MySQL Query Browser中的显示为
c1 c2 c3
1234567.25 1234567.23 1.23457e+006
3.程序中取出数据
1234567 1234567.23 1234570
mysql> insert into t1 values(9876543.21, 9876543.12,9876543.21);
1.在Toad for MySQL中的显示为
c1 c2 c3
9876543 9876543.12 9876540
2.在MySQL Query Browser中的显示为
c1 c2 c3
9876543.00 9876543.12 9.87654e+006
3.程序中取出数据
9876543 9876543.12 9876540
mysql> insert into t1 values(1.21, 1.12,1.21);
1.在Toad for MySQL中的显示为
c1 c2 c3
1.21 1.12 1.21
2.在MySQL Query Browser中的显示为
c1 c2 c3
1.21 1.12 1.21
3.程序中取出数据
1.21 1.12 1.21
mysql> insert into t1 values(1.2, 1.2,1.2);
1.在Toad for MySQL中的显示为
c1 c2 c3
1.2 1.20 1.2
2.在MySQL Query Browser中的显示为
c1 c2 c3
1.20 1.20 1.2
3.程序中取出数据
1.2 1.20 1.2
mysql> insert into t1 values(9876543.216, 9876543.126,9876543.216);
1.在Toad for MySQL中的显示为
c1 c2 c3
9876543 9876543.13 9876540
2.在MySQL Query Browser中的显示为
c1 c2 c3
9876543.00 9876543.13 9.87654e+006
3.程序中取出数据
9876543 9876543.13 9876540
mysql> insert into t1 values(1.216, 1.126,1.216);
1.在Toad for MySQL中的显示为
c1 c2 c3
1.22 1.13 1.216
2.在MySQL Query Browser中的显示为
c1 c2 c3
1.22 1.13 1.216
3.程序中取出数据
1.22 1.13 1.216
不定义fload, double的精度和标度时,存储按给出的数值存储,这于OS和当前的硬件有关。
decimal默认为decimal(10,0)
因为误差问题,在程序中,少用浮点数做=比较,可以做range比较。如果数值比较,最好使用decimal类型。
精度中,符号不算在内:
mysql> insert into t1 values(-98765430.21, -98765430.12);
mysql> select * from t1;
c1 c2
-98765432.00 -98765430.12