精度、小数位数和长度

精度、小数位数和长度

精度是数字中的数字个数。小数位数是数中小数点右边的数字个数。例如，数 123.45 的精度是 5，小数位数是 2。

在 SQL Server 中，numeric 和 decimal 数据类型的默认最大精度为 38。在 SQL Server 早期版本中，默认最大精度为 28。

数字数据类型的长度是存储此数所占用的字节数。字符串或 Unicode 数据类型的长度是字符个数。binary、varbinary和 image 数据类型的长度是字节数。例如，int 数据类型可以有 10 位数，用 4 个字节存储，不接受小数点。int 数据类型的精度是 10，长度是 4，小数位数是 0。

当两个 char、varchar、binary 或 varbinary 表达式串联时，所生成表达式的长度是两个源表达式长度之和，或是8,000 字符，以二者中少者计。

当两个 nchar 或 nvarchar 表达式串联时，所生成表达式的长度是两个源表达式长度之和，或是 4,000 字符，以二者中少者计。

使用 UNION、EXCEPT 或 INTERSECT 对数据类型相同但长度不同的两个表达式进行比较时，得到的长度为两个表达式中较大的长度。

除了 decimal 类型之外，数字数据类型的精度和小数位数是固定的。如果算术运算符有两个相同类型的表达式，结果就为该数据类型，并且具有对此类型定义的精度和小数位数。如果运算符有两个不同数字数据类型的表达式，则由数据类型优先级决定结果的数据类型。结果具有为该数据类型定义的精度和小数位数。

下表定义了当运算结果是 decimal 类型时，如何计算结果的精度和小数位数。当下列任一条件成立时，结果为decimal：

·         两个表达式都是 decimal 类型。

·         一个表达式是 decimal 类型，而另一个是比 decimal 优先级低的数据类型。

操作数表达式由表达式 e1（精度为 p1，小数位数为 s1）和表达式 e2（精度为 p2，小数位数为 s2）来表示。非decimal 类型的任何表达式的精度和小数位数，是对此表达式数据类型定义的精度和小数位数。

SQLServer精度数据(decimal和numeric)在算术运算时的自动转换规则

 假定运算数分别为@d1(精度为p1,小数位数为s1),@d2(精度为p2,小数位数为s2), 则SQL内部的转换规则如下(我们知道精度的最大值是38，当运算结果的精度大于38时，SQL将会截短小数部分，以保证整数部分不会被截断。)：

 1.      @d1+@d2

运算结果的精度 =max(s1,s2)+max(p1-s1,p2-s2)+1 --注：当值大于38时，取38

运算结果的小数位数

l        当精度值不大于38时 = max(s1,s2)--也就是取小数位数较大者

l        当精度值大于38时 = 38 -max(p1-s1,p2-s2)

 2.      @d1-@d2 (与相加完全相同，略)

 3.      @d1*@d2

运算结果的精度 =p1 + p2 + 1  --注：当值大于38时，取38

运算结果的小数位数

l        当精度值不大于38(或s1+s2<=6)时 = s1 + s2 --也就是取两者小数位数之和

l        当精度值大于38时 =max(6, s1+s2-(p1+p2+1-38))

 4.      @d1/@d2

运算结果的精度 =p1 - s1 + s2 + max(6, s1 + p2 + 1)  --注：当值大于38时，取38

运算结果的小数位数

l        当精度值不大于38时 =max(6, s1 + p2 + 1)

l        当精度值大于38时 =max(6, s1+p2+1-(精度-38))

 5.      SUM(@d1)

运算结果的精度 =38 --也就是取最大精度

运算结果的小数位数：s1--也就是小数位数保持不变

 6.      AVG(@d1)

计算结果 =SUM(@d1) / NUMERIC(10,0)

 参考文献

1)       精度、小数位数和长度 http://msdn.microsoft.com/zh-cn/library/ms190476(v=sql.110).aspx

2)       http://blog.sina.com.cn/s/blog_749e42850100sbdf.html

3)       http://connect.microsoft.com/SQLServer/feedback/details/125782/must-keep-the-max-precise#details

4)       http://topic.csdn.net/u/20090511/11/b666f243-2457-4a7b-8599-9e7630f85561.html

5)       http://blog.csdn.net/coleling/article/details/6406904

6)       SQL Server精度数据(decimal和numeric)在算术运算时的自动转换规则