python - python错误中的十进制对象

Question

>>> from decimal import *
>>> amount = Decimal(0.00114206599999999995793953377898333201301284134387969970703125)
>>> sZ = Decimal(0.0001)
>>> amount.quantize(sZ, rounding=ROUND_DOWN)
Traceback (most recent call last):
  File "<console>", line 1, in <module>
decimal.InvalidOperation: [<class 'decimal.InvalidOperation'>]
>>> 
>>> amount = amount - (amount % sZ)
>>> amount
Decimal('0.001100000000000000052713909626')
>>> amount.quantize(sZ, rounding=ROUND_DOWN)
Traceback (most recent call last):
  File "<console>", line 1, in <module>
decimal.InvalidOperation: [<class 'decimal.InvalidOperation'>]
>>> 

我希望得到 0.011

任何人都可以向我解释我示例中的 python Decimal 出了什么问题吗？

基本上我只想得到一个数字，它是 sZ( block 大小)的多个数，并从“数量”向下舍入(它可能永远不会更多)。

Answer 1

如果您确实关心精度，则需要执行以下操作:

>>> from decimal import *
>>> amount = Decimal('0.00114206599999999995793953377898333201301284134387969970703125')
>>> sZ = Decimal('0.0001')
>>> amount.quantize(sZ, rounding=ROUND_DOWN)

问题是 float 有精度问题，将 float 作为参数传递给 Decimal 已经失去了精度。