8月1日编程札记

计算组合数,在网上看到各种方法,但是发现,使用double数据类型,会导致结果不够精确,查询资料获得如下:

数据类型    存储单元   取值范围     有效数字
float       4个字节   3.4E /- 38     7位
double      8个字节   1.7E /- 308   15~16位
long double 10个字节  1.2E /- 4932  18~19位

正是因为double有效数字只有15-16位,所以导致了,其他数据的丢失。正在寻找解决方案。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值