计算机的错误计算(五十一)

摘要   探讨 \sin(2^{100}) 的符号。

例1.  请确定  \sin(2^{100})  的符号[1]。

       在计算过程中,若保留8位、16位、20位有效数字,则计算过程与结果分别如下:

\sin(2^{100})\\\approx\sin(1.2676506\times10^{30})\\\approx0.44919995\,;

\sin(2^{100})\\\approx\sin(1.267650600228229\times10^{30})\\\approx-0.6955832137610442\,;

\sin(2^{100})\\\approx\sin(1.2676506002282294015\times10^{30})\\\approx-0.58645356896925826300\,.

        若在Windows 10,Visual Studio 2010下计算:

#include <math.h>

double y=sin(pow(2,(double)100));
printf("%lf",y);

则输出为 0.673521.

       容易确定其符号吗?    

       事实上,若保留10位有效数字,那么正确结果是负数:-0.8721836054 . 

[1] Zimmermann P. Reliable Computing with GNU MPFR. In: Fukuda K et al. eds. ICMS 2010, LNCS 6327. Berlin: Springer, 2010. 42–45

  • 10
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值