gpt4 book ai didi

python - 如何在python中使用精度计算 float

转载 作者:行者123 更新时间:2023-12-03 23:58:47 26 4
gpt4 key购买 nike

precision = 2
number = 31684.28
result = Decimal(number) - Decimal(10 ** -precision)
print(result)

期望的输出:

31684.27

实际输出:

31684.26999999999883584657356

我尝试做的是从 number 中减去 0.01

最佳答案

您必须使用 Decimal(...) 而不是输出值。所以试试这个:

from decimal import Decimal
precision = 2
number = 31684.28
result = number - float(10 ** Decimal(-precision))
print(result)

输出:

31684.27

关于python - 如何在python中使用精度计算 float ,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/65840684/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com