Oracle中的NUMBER、FLOAT

Number类型:

Oracle number datatype 语法:NUMBER[(precision [, scale])]
有效位:从左边第一个不为0的数算起的位数。

scale > 0
精确到小数点右边s位,并四舍五入。然后检验有效位是否 <= p。
scale < 0
精确到小数点左边s位,并四舍五入。然后检验有效位是否 <= p + |s|。
scale = 0
NUMBER表示整数。

Float类型:
Oracle float datatype 语法:FLOAT(b)
Oracle Online Help 说:FLOAT(b) specifies a floating-point number with binary precision b. The precision
b can range from 1 to 126. To convert from binary to decimal precision, multiply b by 0.30103。根据这段话,
我们可以看到,float(2)中的2是一个binary precision,而不是我们常用的decimal precision。他们之间的换算关
系是:binary precision=int(b*0.30103),因此我们这里实际上的精度应该等于int(2*0.30103)=0,即小数点后精度为0。

例如:
float(7):此时精度为int(7*0.30103)=2,
那么插入2111.111(2.111111*10^3)到Oracle数据库表中,值会被转变为2.11*10^3=2110
那么插入234567.891(2.34567891*10^5)到Oracle数据库表中,值会被转变为2.35*10^5=235000

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值