整数运算、浮点运算与溢出

1. 一个示例

sizeof(int) == 4 的机器上，也即 32 位机器，使用 int 型变量存储 200*300*400*500 会得到 -884901888。这显然违犯了整数运算的特性，计算一组正数的乘积不应该产生一个负数结果。

另一方面，整数在计算机中的运算满足数学上对整数运算的许多性质。乘法的结合和交换律，下面的任何一个 C 表达式，都会得到 -884901888 同样的负数，数值溢出结果：

(500*400)*(300*200)
((500*400)*300)*200
((200*500)*300)*400
...

计算机中的浮点运算有时则会呈现出完全不同的数学属性。由于表示的精度有限，浮点运算是不可结合的。

3.14 + (1e20 - 1e20) ⇒ 3.14
(3.14 + 1e20) - 1e20 ⇒ 0.0

2. 计算机对数字的表示

整数运算和浮点运算会有不同的数学特性，是因为它们在处理数字表示有限性的方式不同 —— 整数的编码虽然只能编码一个相对较小的数值范围，但这种表示是精确的；而浮点数虽然可以编码一个较大的数值范围，其表示只是近似的。

转载于:https://www.cnblogs.com/mtcnn/p/9421112.html