gpt4 book ai didi

python - Numpy - 两个 float 与浮点类型精度之间的差异

转载 作者:太空宇宙 更新时间:2023-11-03 15:07:45 25 4
gpt4 key购买 nike

我正在查看 numpy.finfo 并执行了以下操作:

In [14]: np.finfo(np.float16).resolution
Out[14]: 0.0010004
In [16]: np.array([0., 0.0001], dtype=np.float16)
Out[16]: array([ 0. , 0.00010002], dtype=float16)

似乎向量能够存储两个数字,使得它们的差异比类型的分辨率小 10 倍。我错过了什么吗?

最佳答案

float 在初始数字后具有固定的分辨率。这个数字告诉你的是,当第一个数字在 1.0 位置时,这个数字的分辨率是多少。您可以通过尝试将较小的数量添加到 1.0 来看到这一点:

In [8]: np.float16(1) + np.float16(0.001)
Out[8]: 1.001

In [9]: np.float16(1) + np.float16(0.0001)
Out[9]: 1.0

这与 nextafter 函数有关,它给出给定数字之后的下一个可表示数字。采取这种差异给出了大约这个分辨率:

In [10]: np.nextafter(np.float16(1), np.float16(np.inf)) - np.float16(1)
Out[10]: 0.00097656

关于python - Numpy - 两个 float 与浮点类型精度之间的差异,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/30759033/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com