python浮点数精度102f,python-Numpy-两个浮点数与浮点类型的精度之间的差异

我正在查看numpy.finfo并执行以下操作：

In [14]: np.finfo(np.float16).resolution

Out[14]: 0.0010004

In [16]: np.array([0., 0.0001], dtype=np.float16)

Out[16]: array([ 0. , 0.00010002], dtype=float16)

看来向量可以存储两个数字,使得它们的差比类型的分辨率小10倍.我想念什么吗？

解决方法:

浮点数在起始数字后具有固定的分辨率.这个数字告诉您的是,当第一个数字位于1.0位置时,数字的分辨率是多少.您可以通过尝试将较小的数量添加到1.0来看到这一点：

In [8]: np.float16(1) + np.float16(0.001)

Out[8]: 1.001

In [9]: np.float16(1) + np.float16(0.0001)

Out[9]: 1.0

这与nextafter函数有关,该函数给出给定数字之后的下一个可表示数字.采取该差异可以大致得到以下分辨率：

In [10]: np.nextafter(np.float16(1), np.float16(np.inf)) - np.float16(1)

Out[10]: 0.00097656

标签：floating-accuracy,python,numpy

来源： https://codeday.me/bug/20191028/1950798.html