目录
上溢和下溢
病态条件
基于梯度的优化方法
KKT 方法
如果这篇文章对你有一点小小的帮助,请给个关注喔~我会非常开心的~
上溢和下溢
- 上溢:当大量级的数字被近似为
时发生上溢,进一步计算会导致这些无限值变为非数字
- 下溢:当接近零的数字被四舍五入为零时发生下溢
病态条件
条件数,表示函数相对于输入的微小变化而变化的快慢程度。
如果条件数大,有可能造成输入的舍入误差造成输出巨大变化。
函数
,当
为
时具有特征值分解,条件数表示为:
![\max_{i,j}\left| \frac{\lambda_i}{\lambda_j} \right|](https://private.codecogs.com/gif.latex?%5Cmax_%7Bi%2Cj%7D%5Cleft%7C%20%5Cfrac%7B%5Clambda_i%7D%7B%5Clambda_j%7D%20%5Cright%7C)
基于梯度的优化方法
梯度是相对一个向量求导的导数,
的导数是包含所有偏导数的向量,记为