SQL Server 小数类型(float 和 decimal)

本文详细介绍了SQL Server中的浮点数类型float和精确数类型decimal,包括它们的精度、存储大小以及在计算过程中的行为。float表示近似数值,可能存在精度损失,而decimal则提供精确存储,无精度损失。在进行小数除法时,数据类型会提升为float进行近似计算。此外,文章还讨论了如何将小数转换为字符串(varchar)并控制小数位数。
摘要由CSDN通过智能技术生成

在SQL Server中,实际上小数数值只有两种数据类型:floatdecimal,分别是近似数值和精确数值。其他小数类型,都可以使用float和decimal来替代,例如,双精度(double precision)数据类型等价于 float(53),real等价于float(24),numeric是 decimal的同义词,应该避免在程序中直接使用 double precision、real和numeric,而是用 float(24) 、float(53)和decimal 代替。

float是近似数值,存在精度缺失;decimal是精确数值,不存在精度损失。当数值不允许精度丢失时,使用 decimal数据类型存储数据。在计算小数的除法时,SQL Server 内部隐式升级数据类型,根据小数数值的数据类型,就近向float(24) 或float(53)转换。

一,近似数值

float 表示近似数值,存在精度损失,数据类型是 float(n),n是可选的,默认类型是float(53),占用8bytes。虽然n的取值范围是1-53,实际上,float 只能表示两种类型float(53) 和 float(24),分别占用 8Bytes 和 4Bytes。

其中n是以科学计数法存储浮点数尾数的位数,因此决定了精度和存储大小。 如果指定了n,则它必须是介于1和53之间的值,n的缺省值是53。

n

Precision 

Storage size

1-24    

7 digits  

4 bytes 

25-53   

15 digits

8 bytes    

注意:SQL Server将n视为两个可能值之一。 如果1 <= n <= 24,则将n视为24;如果25 <= n <= 53,则将n视为53。
近似数值很难确定是否相等,因此,应避免对  float 类型做相等比较,而只限于比较 > 或 < 。

二,精确数值

decimal不存在精度损失,数据类型decimal(p,s) 需要分别指定小数的最大位数(p)和小数位的数量(s):

  • p (precision) :指定小数的最大位数,小数点的左侧和右侧的数字的总数量不能超过p,p的取值范围是从1到38,默认值为18。
  • s (scale):指定在小数点右侧的小数位数,p-s是小数点左边的最大位数。s必须是从0到p的值,只有在指定了精度的情况下才能指定s,s的默认值是0,因此,0 <= s <= p。 
  • 1
    点赞
  • 16
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值