gpt4 book ai didi

.net - Powershell 计算大 bigint 数字的错误值

转载 作者:行者123 更新时间:2023-12-02 12:48:30 28 4
gpt4 key购买 nike

[bigint][math]::pow(10,22) 

给出正确的结果:10000000000000000000000

[bigint][math]::pow(10,23) 

给出错误结果:100000000000000008388608

[bigint]10e23

给出了不同但也不正确的结果:999999999999999983222784

我认为 System.Numerics.biginteger 适用于任意大的整数?

是否需要做一些特殊的事情才能在 Powershell 中正确计算任意大的数字,或者必须使用不同的方法?

最佳答案

pow 函数接受 double 类型参数,并返回 double 类型结果。您的 int 输入会隐式转换为 double,并且 double 结果会尽可能地转换为 bigint。

Math.Pow Method documentation

另请参阅对 similar thing reported as bug 的回复。在该错误报告中,他们建议了一个函数定义(包括代码)来计算大整数值的 pow。

关于.net - Powershell 计算大 bigint 数字的错误值,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/49657871/

28 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com