数据溢出的分析与计算

    在计算机中,当要表示的数据超出计算机所使用的数据的表示范围时,则产生数据的溢出。要想很好的避免这个问题,首先我们需要了解常用的数据类型的取值范围:


1.C语言的基本数据类型及其取值范围

    数据类型              所占位数           取值范围

  [signed]  char              8                -2^7 ~ 2^7-1
   
  unsigned char             8                0 ~ 2^8-1  
 
  [signed] short             16               -2^15 ~ 2^15-1

  unsigned short           16                 0 ~ 2^16-1
   
  [signed] int                 32              -2^31 ~ 2^31-1
 
  unsigned int               32               0 ~ 2^32-1
   
    [signed] long            32              -2^31 ~ 2^31-1
 
    unsigned long          32                0 ~ 2^32-1
   
   
    float                         32              -3.4*10(-38)~3.4*10(38)
   
    double                    64              -1.7*10(-308)~1.7*10(308)

 

2.溢出后数值计算:

      [MAX_COUNT]表示类型能表示的数据个数,如char类型(8位)可表示2^8=256
(1)上溢:-[MAX_COUNT].
(2)下溢:+[MAX_COUNT]

例1:上溢 char a = 126,则a+45 = ? Uchar b = 252 则 b + 100 = ?

   解:a+45 = 126 + 45 = 171-256 = -85
       b+100 = 252 + 100 =352-256 = 96

例2:下溢 char a = 126,则a+45 = ? Uchar b = 2 则 b -100 = ?

   解:a+45 = 126 + 45 = 171-256 = -85
       b-100 = 2 - 100 = -98+256 =158

 

3.有符号数和无符号数的转换:

(1)无符号a->有符号b:
if(a<[MAX_COUNT]/2)
{
    b = a;
}else{
    b = a - [MAX_COUNT]
}

(2)有符号a->无符号b:
if(a>=0)
{
    b = a;
}else{
    b = a + [MAX_COUNT]
}
这个就不举例子了,读者可以自己验证!!!

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值