gpt4 book ai didi

Python decimal.InvalidOperation 错误

转载 作者:太空狗 更新时间:2023-10-29 20:51:32 27 4
gpt4 key购买 nike

我在运行这样的程序时总是会遇到这个错误:

from decimal import *
getcontext().prec =30

b=("2/3")

Decimal(b)

错误:

Traceback (most recent call last):
File "Test.py", line 6, in <module>
Decimal(b)
decimal.InvalidOperation: [<class 'decimal.ConversionSyntax'>]

另外,为什么我从控制台得到这个结果?

>>> Decimal(2/3)
Decimal('0.66666666666666662965923251249478198587894439697265625')

谢谢

最佳答案

Decimal 的初始值设定项不能接受其中包含斜杠的字符串。非正式地,该字符串必须看起来像一个数字。 This table显示字符串参数的正确格式。如果你想计算 2/3,做

>>> Decimal(2)/Decimal(3)
Decimal('0.6666666666666666666666666667')

Decimal(2/3) 给出 Decimal('0.66666666666666662965923251249478198587894439697265625'),因为 2/3 的计算结果为 float ,而 float 本身具有有限的精度。这是计算机可以使用 float 表示 2/3 的最接近值。

关于Python decimal.InvalidOperation 错误,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/33827179/

27 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com