把字段类型设计成float(2)后,插入数据93.5,后,为什么变成了90?
为了表明
这个疑问
,咱们
先来看一段话:Oracle Online Help 说:FLOAT(b) specifies a floating-point number with binary precision b. The precision b can range from 1 to 126. To convert from binary to decimal precision, multiply b by 0.30103。
根据这段话,咱们
能够
看到,float(2)中的2是一个binary precision,而不是咱们
常用的decimal precision。他们之间的换算联系
是:binary precision=int(b*0.30103),因此咱们
这里实际上的精度应该等于int(2*0.30103)=0,即小数点后精度为0。
回到咱们
原来的疑问
,93.5化成浮点型9.35*10^1,这时9.35小数点后精度为0,成9,因此结尾
变成9*10^1=90。
类似的,咱们
能够
设计成float(10),那么int(10*0.30103)=3,因此,假如
插入93.5,就得出9.35--精度为3-->9.350,9.350*10^1=93.5。假如
插入13884.2,得出1.38842--精度为3-->1.388,1.388*10^4=13880。
咱们
能够
从以下测试更加清楚的看到这样的换算准则
。
Connected to Oracle9i Enterprise Edition Release 9.0.1.1.1
Connected as aspire
SQL>
SQL> CREATE TABLE hjm_float_test
2 (a FLOAT(2),
3 b FLOAT(10),
4 c FLOAT,
5 d NUMBER);
Table created
SQL> INSERT INTO hjm_float_test(a,b,c,d) VALUES(93.5,93.5,93.5,93.5);
1 row inserted
SQL> INSERT INTO hjm_float_test(a,b,c,d) VALUES(93.665,93.665,93.665,93.665);
1 row inserted
SQL> INSERT INTO hjm_float_test(a,b,c,d) VALUES(96.5,96.5,96.5,96.5);
1 row inserted
SQL> INSERT INTO hjm_float_test(a,b,c,d) VALUES(13884.2,13884.2,13884.2,13884.2);
1 row inserted
SQL> COMMIT;
Commit complete
SQL> SELECT * FROM hjm_float_test;
A B C D
---- ------------ -------------------------------------------------------------------------------- ----------
90 93.5 93.5 93.5
90 93.67 93.665 93.665
100 96.5 96.5 96.5
1000 13880 13884.2 13884.2
SQL> desc hjm_float_test;
Name Type Nullable Default Comments
---- ------ -------- ------- --------
A FLOAT Y
B FLOAT Y
C FLOAT Y
D NUMBER Y
SQL>
请特别留心
的是,虽然我在设计表的时刻
设计成了float(2)、float(10),但是当我在desc表(代码结尾
7列)的时刻
却是看不到这样的设计结构的,这样的疑问
须要
尤其惹起
留心
!!
结尾
,让咱们
回顾一下,记得
float(b)中的b是二进制的精度,他的换算准则
是binary precision=int(b*0.30103)。