定点数:
定点数就是小数点位置固定不变的数。
通常约定:固定不变指小数点位置固定在数据最高位之前或最低位之后,前者是定点小数,后者是定点整数。
小数点不占位。
溢出:计算机在使用定点数进行运算时,运算结果超出了计算机所能表示的范围,从而导致运算结果出现错误,叫作溢出。
简单举例说明:
假设计算机空间可以存储一个三位数,小数点在最低位之后,表示一个三位整数,则它能表示的最大数位999,如果两个三位整数相加的结果要存储在这个计算机空间中(如:500+501=1001),这个计算结果超出了这个计算机空间所能表示的最大数,最高位的1会溢出,导致计算结果出现错误。
小数也是如此,假设一个三位数,小数点在最高位之前,表示一个三位小数,如果你要用它在表示0.1025,则最低位的5会溢出,会使计算结果精度降低。
浮点数:
浮点数是指小数点位置不固定的数,它既有整数部分,也有小数部分。通常浮点数由阶码/指数,尾数组成。表示方式如下:
M:尾数,其长