float 默认精度 oracle,float,decimal精确度比较

float,double容易产生误差,对精确度要求比较高时,建议使用decimal来存,decimal在mysql内存是以字符串存储的,用于定义货币等要求精确度高的数据。在数据迁移中,float(M,D)是非标准定义,最好不要这样使用。M为精度,D为标度。

mysql> create table t1(c1 float(10,2), c3 decimal(10,2));

Query OK, 0 rows affected (0.02 sec)

mysql> insert into t1 values(1234567.23, 1234567.23);

Query OK, 1 row affected (0.01 sec)

mysql> select * from t1;

+————+————+

| c1 | c3 |

+————+————+

| 1234567.25 | 1234567.23 |

+————+————+

1 row in set (0.02 sec)

mysql> insert into t1 values(9876543.21, 9876543.12);

Query OK, 1 row affected (0.00 sec)

mysql>

mysql> select * from t1;

+————+————+

| c1 | c3 |

+————+————+

| 1234567.25 | 1234567.23 |

| 9876543.00 | 9876543.12 |

+————+————+

2 rows in set (0.00 sec)

不定义float, double的精度和标度时,存储按给出的数值存储,这于OS和当前的硬件有关。

decimal默认为decimal(10,0)

因为误差问题,在程序中,少用浮点数做=比较,可以做range比较。如果数值比较,最好使用decimal类型。

精度中,符号不算在内:

mysql> insert into t1 values(-98765430.21, -98765430.12);

Query OK, 1 row affected (0.01 sec)

mysql> select * from t1;

+————–+————–+

| c1 | c3 |

+————–+————–+

| 1234567.25 | 1234567.23 |

| 9876543.00 | 9876543.12 |

| -98765432.00 | -98765430.12 |

+————–+————–+

3 rows in set (0.00 sec)

float占4个字节,double占8个字节,decimail(M,D)占M+2个字节。

[来源:http://hi.baidu.com/haijian04/item/be052bcca6e3a20ac610b23b]

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值