在SQL Server中，实际上小数数值只有两种数据类型：float 和 decimal，分别是近似数值和精确数值。其他小数类型，都可以使用float和decimal来替代，例如，双精度(double precision)数据类型等价于 float(53)，real等价于float(24)，numeric是 decimal的同义词，应该避免在程序中直接使用 double precision、real和numeric，而是用 float(24) 、float(53)和decimal 代替。
float是近似数值，存在精度缺失；decimal是精确数值，不存在精度损失。当数值不允许精度丢失时，使用 decimal数据类型存储数据。在计算小数的除法时，SQL Server 内部隐式升级数据类型，根据小数数值的数据类型，就近向float(24) 或float(53)转换。
一，近似数值
float 表示近似数值，存在精度损失，数据类型是 float(n)，n是可选的，默认类型是float(53)，占用8bytes。虽然n的取值范围是1-53，实际上，float 只能表示两种类型float(53) 和 float(24)，分别占用 8Bytes 和 4Bytes。
其中n是以科学计数法存储浮点数尾数的位数，因此决定了精度和存储大小。 如果指定了n，则它必须是介于1和53之间的值，n的缺省值是53。
n
Precision
Storage size
1-24
7 digits
4 bytes
25-53
15 digits
8 bytes
注意：SQL Server将n视为两个可能值之一。 如果1 <= n <= 24，则将n视为24；如果25 <= n <= 53，则将n视为53。
近似数值很难确定是否相等，因此，应避免对 float 类型做相等比较，而只限于比较 > 或 < 。
二，精确数值
decimal不存在精度损失，数据类型decimal(p,s) 需要分别指定小数的最大位数(p)和小数位的数量(s)：
p (precision) ：指定小数的最大位数，小数点的左侧和右侧的数字的总数量不能超过p，p的取值范围是从1到38，默认值为18。
s (scale)：指定在小数点右侧的小数位数，p-s是小数点左边的最大位数。s必须是从0到p的值，只有在指定了精度的情况下才能指定s，s的默认值是0，因此，0 <= s <= p。
Precision
Storage bytes
1 - 9
5
10-19
9
20-28
13
29-38
17
p 和 s 必须遵守规则：0 <= s <= p <= 38，decimal(p,s) 能够表示的有效值是从 - 10^38 +1 到 10^38 - 1。
decimal 数据类型的最大精度为 38，这意味着，decimal 数据类型最多可以存储 38位数字，所有这些数字均可位于小数点后面。decimal 数据类型存储精确的数字表示形式，没有近似值。
三，小数的除法是近似计算
小数的除法是近似计算，必须把小数的类型提升为float类型。小数常量的默认数据类型是decimal，float的优先级比decimal高。
在Transact-SQL语句中，具有小数点的常量会自动转换为decimal，并使用必需的最小精度和小数位数。 例如，将常量12.345转换为小数类型，decimal(5，3)，即精度为5，小数位为3。
在TSQL中，小数常量是decimal类型，如一下示例，TSQL把常量 1.0 自动转换为decimal(2,1)，在计算除法时，TSQL自动把decimal转换位float类型。
declare @f_low float()
declare @f_high float()
select @f_low=cast(1.0 as float())/,@f_high=cast(1.0 as float())/
select 1.0/ as f,@f_low as f_low, @f_high as f_high
declare @dec decimal(38,37)
declare @num decimal(38,37)
select @dec=cast(1.0 as decimal(38,37))/3,@num=cast(1.0 as decimal(38,37))
select @dec,@num,1.0/3,cast(1.0 as float(24))/3,1.000000000000/3,cast(1.0 as float(53))/3
默认情况下，SQL Server将小数常量作为decimal 数据类型，在计算小数的除法时，就近进行数据类型的升级，转换为float(24)或float(53) 数据类型。
在 Transact-SQL 语句中，小数数值的常量自动转换为 decimal 数据类型，在转换时，使用最小的精度和小数位数。例如，常量 12.345 被转换为 numeric值，其精度为 5，小数位为 3。
In Transact-SQL statements, a constant with a decimal point is automatically converted into a numeric data value, using the minimum precision and scale necessary. For example, the constant 12.345 is converted into a numeric value with a precision of 5 and a scale of 3.
四，将小数转换成字符串(varchar)
相比cast(float_expression as float(24/53))，使用 str 函数能够有效控制近似数值的小数位数，函数str获取的是近视数值。
STR ( float_expression [ , length [ , decimal ] ] )
length是小数的总位数，包含正负符号，小数点，小数点左边和右边数字个数之和；
decimal是小数位的数量(小数点右边数字个数)，小数位最大为16位，不能超过16，否则，会被截断为16位。如果小数位没有decimal多，那么右边补0。
返回值是varchar类型。
1，对小数常量转换为varchar类型，减少小数位的数量，由2位减少为1位。
SELECT STR(123.45, 6, 1);
2，将decimal 变量转换为varchar类型
declare @d decimal(10,2)
set @d=123.45
SELECT STR(@d, 6, 1);
3，将 float 表达式的值转换为varchar 类型
1.0/3 默认转换为float(24) 类型，因此只有6位小数，小于decimal 参数的8位，右边补两个0。
SELECT STR(1.0/3, 10, 8);
4，在将float和decimal转换为varchar类型时，使用函数str或cast强制转换，返回的数值可能是不相同
declare @dt decimal(38,30)
declare @df float(53)
set @dt=50.8863983154297
set @df=50.8863983154297
select @df as df,@dt as dt,
str(@dt,38,30) as str_dt,str(@df,38,30) as str_df,
cast(@dt as varchar(100)) as var_dt,cast(@df as varchar(100)) as var_df
字段str_dt和str_df的值是不相同的，str函数首先对这两个小数数值取近似值，使用cast强制转换，对于decimal，返回的是精确值，对于float，返回的是近似值。
delphi 转换sql server 中的 bit类型
FieldByName('e').AsBoolean = false 其中e为 sql server 中的bit类型.
使用 SQL Server 的 uniqueidentifier 字段类型
原文:使用 SQL Server 的 uniqueidentifier 字段类型 SQL Server 自 2008 版起引入了 uniqueidentifier 字段,它存储的是一个 UUID, 或 ...
SQL Server 日期和时间类型
在Microsoft SQL Server的类型系统中,使用 date 表示日期类型,使用time表示时间类型,使用DateTime和DateTime2表示日期和时间的组合,DateTime2是Dat ...
SQL Server 发布订阅 发布类型详解
MicrosoftSQL Server 提供了三种复制类型. 每种复制类型都适合于不同应用程序的要求. 根据应用程序需要,可以在拓扑中使用一种或多种复制类型: 快照复制 事务复制 合并复制 为了帮助您 ...
浅析SQL Server 中的SOS_SCHEDULER_YIELD类型的等待
本文出处:http://www.cnblogs.com/wy123/p/6856802.html 进程的状态转换 在说明SOS_SCHEDULER_YIELD等待之前,先简要介绍一下进程的状态(迷迷糊 ...
sql server 2005中IMAGE类型的BUG问题
目的:在sql server 2005数据库上筛选出那些有照片的员工 由于客户之前的数据库是sql server 2000,定义的photo字段的数据类型为image, 在sql 2005数据库上,用 ...
C#操作SQL Server中的Image类型数据
该例子是一个对SQL Server数据类型的一个操作例子,具有写入.读取功能. 1:准备数据库 1)创建数据库 Test 2)创建表 Table_1 (分别有2个字段:id(Int).photo(Im ...
MySQL类型float double decimal的区别
语法 MySQL 浮点型和定点型可以用类型名称后加(M,D)来表示,M表示该值的总共长度,D表示小数点后面的长度,M和D又称为精度和标度,如float(7,4)的 可显示为-999.9999,MySQ ...
SQL Server判断小数位数
项目中需要写一规则,目的是判断数值的小数位数,可以分为2中情况. 1.直接以小数点为分界点,小数点后的数据表示小数的位数,此种情况比较简单,直接使用CHARINDEX函数就可以搞定 其中CHARIND ...
随机推荐
[Android]电话拨号器开发
继续今天的Android,经过昨天大体了解了Android开发的一些基本文件结构,今天来做一个电话拨号器! 预期达到的效果 实现过程 首先还是按照昨天第一篇教程,新建一个项目叫PhoneCall的An ...
Jdk内置性能测试工具的介绍
(一) JConsole JConsole使用JVM的可扩展性Java管理扩展(JMX)工具来提供关于运行于Java平台的应用程序的性能和资源消耗的信息. 在J2SE 5.0软件中,你需要启动使用-D ...
异步等待(ManualResetEvent
ManualResetEvent实现异步等待,超过时间 不做处理,继续往下执行代码 (ManualResetEvent 涉及一个线程在其他线程进行之前必须完成的任务) ManualResetEvent ...
ExpectationMaximum
2- You may have question marks in your head, especially regarding where the probabilities in the Exp ...
vim编辑器参数(不熟参数)
-1 vim配置文件 全局配置:/etc/vimrc 个人配置:~/.vimrc -2 :set下相关常用参数 ic 忽略大小写 noic 不忽略(默认) ai 自动缩进 noai 不自动缩进(默 ...
HDOJ 1260 DP
Tickets Time Limit: 2000/1000 MS (Java/Others) Memory Limit: 65536/32768 K (Java/Others)Total Sub ...
[03] JSP指令
1.概述 JSP指令用于"转换阶段"提供整个JSP页面的相关信息,影响由JSP页面生成的Servlet的整体结构.指令不会产生任何的输出到当前的输出流中. 指令的基本语法为: &l ...
Redis系列三：reids常用命令
全局命令 keys * 查看所有键 dbsize 查看的是当前所在redis数据库的键总数 如果存在大量键,线上禁止使用此指令 exists key 检查键是否存在,存在返回1,不存在返回0 del ...
C语言 &#183; 字串逆序
算法训练 字串逆序 时间限制:1.0s 内存限制:512.0MB 问题描述 给定一个字符串,将这个串的所有字母逆序后输出. 输入格式 输入包含一个字符串,长度不超过100,字符串中不 ...
[javaSE] GUI(练习-列出指定目录内容)
获取Frame对象 获取TextField对象 获取TextArea对象 获取Button对象 调用Frame对象的add()方法,添加进去 调用TextField对象的getText()方法,可以获 ...
扫一扫
189
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
