不小心又中了decimal的埋伏——重新捋一下decimal的相关知识

本文通过一个具体的情景再现了在SQL Server中遇到的decimal问题,详细解析了问题的原因和解决方法。进一步,作者进行了反思,并探讨了C#中decimal类型的相关特性与使用注意事项。
摘要由CSDN通过智能技术生成
大家都知道在程序语言和数据库中各种数字类型decimal,numeric,float,double,real……,有时候不小心就会出现问题,除了掌握基本的数据存储原理,还要仔细了解各个语言和产品里的细节差别,即便如此,一不小心还是有可能中了埋伏。
在SQLserver中Decimal可以用来存储整数,也可以用来存储小数,而且精度高,所以我常常用来保存像销售类的数据相关字段。

情景再现

某数据表结构如下:
create table demo
(
id bigint,
amount decimal(18,5),--总金额
quantity decimal(18,5)--数量
)
在编写一个功能其中使用了一句
select convert(decimal(18,2),amount)/convert(decimal(18,2),quantity) from demo where quantity>0.00
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值