gpt4 book ai didi

python - 小数的楼层划分返回错误答案

转载 作者:行者123 更新时间:2023-12-03 19:13:44 27 4
gpt4 key购买 nike

这个问题在这里已经有了答案:





rounding errors in Python floor division

(5 个回答)


去年关闭。




我试图在我的 python 脚本中做一些计算,但我得到了一些奇怪的结果。例如:

0.03 // 0.01
>>> 2.0

如果我放大数字,我会得到预期的结果:
3.0 // 1.0
>>> 3.0

我很确定第一个代码片段的答案应该是 3.0而不是 2.0 .有人能解释一下为什么会发生这种情况以及如何解决吗?

最佳答案

这是由于 floating point error .注意上面的楼层划分,余数不是0 :

0.03 % 0.01
# 0.009999999999999998

因此,如果我们改为除以:
0.03 // 0.009
# 3.0

答案是正确的。因此 0.03不能被 0.01 整除由于浮点数限制,没有一些余数

关于python - 小数的楼层划分返回错误答案,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/59647797/

27 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com