gpt4 book ai didi

excel - Excel 如何正确评估 FACT(170)/FACT(169)?

转载 作者:行者123 更新时间:2023-12-04 21:16:38 24 4
gpt4 key购买 nike

170!接近浮点 double 的极限:171!会溢出。

不过170!长度超过 300 位。

因此,有 没办法那170!可以用浮点数精确表示。

然而 Excel 返回 170 的正确答案!/169!

为什么是这样?我预计会出现一些错误,但它会返回一个整数值。 Excel 是否知道如何优化此计算?

最佳答案

如果您找到最近的 double秒到170!和169!,他们是

double oneseventy = 5818033100654137.0 * 256;
double onesixtynine = 8761273375102700.0;

乘以两个相同的幂。最近的 double这些的商恰好是 170.0。

此外,Excel 可能会计算 170!乘以 169! 170。

William Kahan 有一篇名为“ How Futile are Mindless Assessments of Roundoff in Floating-Point Computation?”的论文,他在其中讨论了 Excel 中出现的一些疯狂问题。可能 Excel 没有精确计算 170,而是它向你隐藏了一个 ulp 的现实。

关于excel - Excel 如何正确评估 FACT(170)/FACT(169)?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/24406069/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com