数值计算笔记之数值计算中应注意的问题

数值计算中应注意的问题

一、防止相近的两个数直接相减

例如：23.034 - 22.993 = 0.041

解决方法：分子有理化等

二、防止大数“吃掉”小数

例：求 的根

         准确解：        

如果用数值计算的方法：

方法一：         解得       

      原因：    比 4ac大得多，根号下的值就约为 

方法二：       而解则运用韦达定理 

三、防止除法中除数的数量级远小于被除数

原因：数值计算最终是要写代码用计算机来计算得，如果除数的数量级远小于被除数，那么结果就会非常大，超出了计算机的存储范围。