C#的float,double和decimal

C#里面处理小数的类型大致有:

float :0.1f 32位
double :0.1d 64位
decimal:0.1m 128位

decimal的精度比double高,但数值范围比double小。decimal虽然是128位,但这只是因为它的小数位可以很多,但整体数值范围却没有double大。

但是在C#中,给人感觉,好像double在精度兼容方面比decimal要好,比如

decimal m;
string value = Decimal.TryParse("3.3900000000000005E-4",out m) ? m.ToString() : "";// value == ""

结果value就是空的。

double d;
string value = Double.TryParse("3.3900000000000005E-4",out d) ? d.ToString() : "";// value == "0.000339"

我就不知道是Decimal.TryParse不支持科学计数法呢还是怎么样

具体见拙作:
SQL SERVER的浮点数类型及与C#的对应关系

也可以参考
c#中decimal ,double,float的区别

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值