【计组笔记-5】详细测试c++中类型转换的溢出截断处理

最新推荐文章于 2023-08-10 11:12:26 发布

亦何妨

最新推荐文章于 2023-08-10 11:12:26 发布

阅读量1.3k

点赞数 3

分类专栏：计算机组成原理

本文链接：https://blog.csdn.net/qq_41562387/article/details/115917783

版权

计算机组成原理专栏收录该内容

6 篇文章 2 订阅

订阅专栏

【计组笔记-5】详细测试c++中类型转换的溢出截断处理

注：

测试环境是vs2019。
会尽量把能想到的情况都测试＆分析一下，有想不到的还望批评指正。

1. 将小数赋值给float

明天写（记得解释精度丢失）

先跳过吧时间太赶了…我先写点别的，其他几篇笔记已经把原理讲完了，这篇只是测试，过几天再写（）。

2. 将整数赋值给float

3. 将整数赋值给int

3.1 算术溢出

如果通过算数运算给变量赋的值大于数据类型能容纳的最大值，则会警告算术溢出，但不会报错，如下所示：

int i = 0x7fffffff+1;

在这里插入图片描述
来分析一下，已知有符号int为32位，其中1位是符号位，31位是数值位，因此，理论上int可储存的最大值为2³¹-1，用16进制表示为0x7fffffff，而理论上最小的溢出值为0x7fffffff+1，也就是i。

溢出之后，i储存了什么内容呢？打印出来看一下：
在这里插入图片描述
翻译成储存的二进制位是1000 0000 0000 0000 0000 0000 0000 0000（理论上是-0，由于不需要存-0，因此这个状态被拿来存-2³¹了，笔记-3中有写），可以发现，如果将其视为无符号数，则刚好是0x7fffffff+1的值。

可见，在这个赋值过程中，编译器是截断32位赋值给左侧int型变量的，并不会因为int有一位是符号位就只截断31还给补足符号位再顺便转换成补码，而如果只赋值0x7fffffff呢：

int i1 = 0x7fffffff;
int i2 = -0x7fffffff;

在这里插入图片描述
可见，只要右侧的数值只需要低于32位的内容来储存，最高位就可以正确的储存符号位，且储存的也是正确的补码（补码后面的笔记再写，这里不多赘述）。

3.2 非算术溢出（等于32位）

上一小节分析了算术溢出，那么如果是非算术溢出，即直接赋一个超过最大值的数呢？如下所示：

int i1 = 0xffffffff;
int i2 = 0x80000000;

在这里插入图片描述
注意，由于右侧的值并未超过32位，因此这时候是不会报任何错或警告的！此外，打印出来的i1和i2，分别翻译成储存的二进制内容，如下所示：

i1：1111 1111 1111 1111 1111 1111 1111 1111
i2：1000 0000 0000 0000 0000 0000 0000 0000

可见，如果右侧赋值的数大于int能储存的最大值，则这个储存过程是截断32位直接存给int变量指示的那块内存，而并没有添加符号位，再修改为补码这个过程。然而，这个问题是不会报错的，连警告也无！所以还是要自己注意下别超了。

3.3 非算术溢出（大于32位）

上一小节分析了赋的值用32位装得下的问题，那么，如果大于32位，赋值给int会如何截断呢？如下所示：

int i1 = 0x100000000;
int i2 = 0x100000001;
int i3 = 0x180000003;

在这里插入图片描述
根据打印的值，i1，i2，i3实际储存的二进制位如下：

i1：0000 0000 0000 0000 0000 0000 0000 0000（0x00000000）
i2：0000 0000 0000 0000 0000 0000 0000 0001（0x00000001）
i3：1000 0000 0000 0000 0000 0000 0000 0011（0x80000003）

如果观察一下，就可以发现，它们刚好就是从低位开始截取了所赋值的32位，除此之外并没有其他改变。

此外，跟上一小节不同的是，在赋的值需要大于32位来储存时，会报以下警告：
在这里插入图片描述
可见确实是截断操作，此外还可以获得一个信息，这里右侧的数字是用64位int来存的（不知是否与操作系统是64位有关），在小数里也有这个现象（在小数的小节里分析）。

4. 将小数赋值给int

测试如下赋值方式：

int i1 = 0.9;
int i2 = 0x80000000 + 0.9;
int i3 = 0x100000000 + 0.9;
int i4 = 0x180000003 + 0.9 * 2;
int i5 = 0x180000003 + 0.9 + 1;
int i6 = -0x7fffffff + 0.9;
int i7 = -0x7fffffff - 0.9;