gpt4 book ai didi

python - Python 中舍入 float 的问题

转载 作者:太空狗 更新时间:2023-10-29 21:40:54 25 4
gpt4 key购买 nike

我对 np.round、np.around 有问题,它没有正确舍入。我不能包含代码,因为当我手动设置值时(而不是使用我的数据),返回有效,但这里是输出:

In [177]: a
Out[177]: 0.0099999998

In [178]: np.round(a,2)
Out[178]: 0.0099999998


In [179]: np.round(a,1)
Out[179]: 0.0

我错过了什么? a的dtype是float32,需要改吗?

最佳答案

尝试创建 np.float32(0.01),您会看到答案。您已经获得了精确度。

>>> import numpy as np
>>> x = 0.01
>>> epsilon = 0.01 - np.float32(0.01)
>>> for n in np.arange(x - 10*epsilon, x + 10*epsilon, epsilon):
... print(repr(np.float32(n)))
...
0.0099999979
0.0099999979
0.0099999979
0.0099999988
0.0099999988
0.0099999988
0.0099999988
0.0099999998
0.0099999998
0.0099999998
0.0099999998
0.0099999998
0.010000001
0.010000001
0.010000001
0.010000001
0.010000002
0.010000002
0.010000002
0.010000002

关于python - Python 中舍入 float 的问题,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/7252581/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com