3-9课:货物不能乱堆放:数据的占位和溢出

56 篇文章 6 订阅 ¥69.90 ¥99.00
本文介绍了计算机中数据溢出的概念,以位数限制为例阐述了溢出现象,并通过Java和Python两种语言探讨了整型值的存储和溢出问题。Java的整型数据取值范围为[-2^31, 2^31 - 1],Python3的整型是无界任意精度类型,避免了溢出问题。" 111961272,10543979,LPC1768 GPIO库函数与Cortex-M3的LED控制实验,"['嵌入式硬件', 'Cortex-M3', 'LPC1768', 'GPIO库函数', '微控制器开发']
摘要由CSDN通过智能技术生成

溢出

讲过了进制,我们回头来讲溢出。

限定位数的数值表达

在位数不受限制的情况下,利用进位制,我们可以使用有限种数字符号来表示所有的数值。

但如果限制数位会如何?

还是用我们熟悉的十进制举例子:

假设我们规定,某一个整数是十进制数,但是它最多总共只能占两位——只能有两个数位,也就是最低的两位:个位和十位。

那么它最小能表达的是 0, 最大能表达的是99。

当我们给99加上1的时候,它的个位和十位都进了位,可是因为百位对于它根本不存在,于是最前面的1没有了,结果变成了99 + 1 = 0 。

这种现象,就叫做溢出。

计算机中的溢出问题

原本三位的数字我非要放到两个数位里去,肯定是放不下啊。放不下非要硬放,于是就会出现错误,把最高位给“挤没了”。这个错误的名字叫做溢出

溢出现象在平时我们徒手做数学计算的时候并不会出现,做算术题,位数不够了随时往前加就是了,草稿纸写到头了就换一张,总能继续往前写。

计算机里面可就不一定了,计算机里面的存储空间是有限的!

一般的编程语言给某一特定类型的数据值分配的存储

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

叶锦鲤

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值