数值计算
上溢和下溢
计算机通过有限数量的位模式来表示无限多的实数,总会引入一些近似误差。如果涉及时没有考虑最小化舍入误差的累积,在实践时可能会导致算法实效。
下溢:当接近零的数被四舍五入为零时发生下溢。
许多函数在其参数为零而不是一个很小的正数时会表现出质的不同:
- 避免零除
- 避免取0的对数
上溢:大量级的数被近似为无穷时发生上溢。
必须对上溢和下溢进行数值稳定的一个例子是softmax函数
softmax(x)i=exp(
计算机通过有限数量的位模式来表示无限多的实数,总会引入一些近似误差。如果涉及时没有考虑最小化舍入误差的累积,在实践时可能会导致算法实效。
下溢:当接近零的数被四舍五入为零时发生下溢。
许多函数在其参数为零而不是一个很小的正数时会表现出质的不同:
上溢:大量级的数被近似为无穷时发生上溢。
必须对上溢和下溢进行数值稳定的一个例子是softmax函数