一. 定点数v.s. 浮点数
-
定点数: 小数点的位置固定. Eg: 996.007 -----常规计数
-
小数点不再使用"."表示,而是约定它的位置
-
将小数点的位置固定在数据的最高位之前或固定在最低位之后,一般常称前者为定点小数,后者为定点整数
当 x 0 = 0 , x 1 ∼ x n x_{0}=0, \quad x_{1} \sim x_{n} x0=0,x1∼xn均为1时,X为其所能表示的最大正数,真值等于 1 − 2 − n 1-2^{-n} 1−2−n(= 2 − 1 + 2 − 2 + 2 − 3 + . . . + 2 − n 2^{-1}+2^{-2}+2^{-3}+...+2^{-n} 2−1+2−2+2−3+...+2−n)
当 x 0 = 1 , x 1 ∼ x n x_{0}=1, \quad x_{1} \sim x_{n} x0=1,x1∼xn均为1时,X为其所能表示的最小负数,真值等于 − ( 1 − 2 − n -(1-2^{-n} −(1−
-