计算机的错误计算(二十四)

摘要  计算机的错误计算(二十一)就案例 20^{65}-20^{65-0.1^{15}} 展示了“两个不相等数相减,差为0”。本节给出新的计算过程:不停增加计算精度直到出现非0结果。这个过程与结果表明,即使是专业数学软件,对这个问题的处理,也不尽完美。

       对于 20^{65}-20^{65-0.1^{15}} 来说,正如计算机的错误计算(二十一)所述,双精度下,其输出为0. 容易想到,要获得有效数字,必须提高计算精度。

       下面展示在数学软件 Maple 中的计算过程。

       Maple 初始的默认位数是10位。从上可知,直到有效位数增加到 17位,才获得有效数字。但是,不知大家注意到没有?17位有效位数下,只显示 3位数字“110”。从后面的结果知,四舍五入后应该是“111”。所以,首先,17位有效位数下只输出 3位数字,其次,输出的还不全对。

       您感觉如何?觉得难还是不难?以为只要增加精度就行?上面可是专业数学软件!

       最后,若您想验证 Maple 软件的结果,可以访问 ISReal 计算器, 可信计算icon-default.png?t=N7T8http://www.isrealsoft.cn/

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值