数值分析-计算机中的数系与运算特点

计算机数系

• 数学中的实数$R$
  x = ± β c × 0. a 1 a 2 ⋯ a t a t + 1 ⋯   , a i ∈ { 0 , 1 , ⋯   , β − 1 } x = \pm \beta^c \times 0.a_1 a_2\cdots a_t a_{t+1}\cdots, a_i \in \{0, 1, \cdots, \beta-1\} x=±βc×0.a1​a2​⋯at​at+1​⋯,ai​∈{0,1,⋯,β−1}

• 计算机中的实数
  F ( β , t , L , U ) = { ± β c × 0. a 1 a 2 ⋯ a t ∣ a k ∈ { 0 , 1 , ⋯   , β − 1 } , L ≤ c ≤ U } F(\beta,t,L,U) = \{\pm\beta^c \times 0.a_1 a_2\cdots a_t| a_k \in \{0, 1, \cdots, \beta-1\}, L \leq c \leq U\} F(β,t,L,U)={±βc×0.a1​a2​⋯at​∣ak​∈{0,1,⋯,β−1},L≤c≤U}

其中，$F$只有$2\times {\beta }^t\times (U-L+1)$个数！

$t$：字长，正整数；$\beta$：进制，一般取2，8，10和16；$c$：阶码，整数，$L\le c\le U$，$L$和$U$为固定整数。

例题：
F ( 10 , 2 , − 1 , 1 ) = { ± 1 0 c × 0. a 1 a 2 ⋯ a t ∣ a k ∈ { 0 , 1 , ⋯   , 9 } , − 1 ≤ c ≤ 1 } F(10,2,-1,1) = \{\pm10^c \times 0.a_1 a_2\cdots a_t| a_k \in \{0, 1, \cdots, 9\}, -1 \leq c \leq 1\} F(10,2,−1,1)={±10c×0.a1​a2​⋯at​∣ak​∈{0,1,⋯,9},−1≤c≤1}
解：该机器数系共有：$2\times 10^2\times (1-(-1)+1)=600$个
最小的正数为m：$0.01\times 10^{-1}=0.001$
最小的正数为M：$0.99\times 10^1=9.9$

数值计算用这有限个实数，完成了用计算机解数学问题的任务。

机器数系得特点

• 机器数系是有限得离散集
• 机器数系中有绝对值最大得非零数（常用M表示）和绝对值最小得非零数（常用m表示）
• 若一个非零实数的绝对值大于M，则计算机产生上溢错误，若其绝对值小于m，则计算机产生下溢错误。
• 上溢时，计算机中断程序处理；下溢时，计算机将此数用零表示并继续执行程序，无论是上溢，还是下溢，都称为溢出错误。
• 计算机把尾数为0且阶数最小的数表示数零。