gpt4 book ai didi

excel - 为什么这两个公式会给我完全相同的错误值?

转载 作者:行者123 更新时间:2023-12-03 08:05:13 25 4
gpt4 key购买 nike

我有一个Excel文档,其中单元格AE61,AE62和AE63的值分别为9.97551241928828000 x 10 ^(-1),3.82933360922740 x 10 ^(-4)和
2.065824710241100 x 10 ^(-3)。我想知道为什么在我将公式((AE62/AE61)/(0.00038/0.99757)-1)* 1000键入AE77并键入公式((AE63/AE61)/(0.00205/0.99757)-1)时为什么*在AE78中输入1000,在两个单元格中我都得到了7.738320123873的值,尽管根据Wolfram Alpha,我们有:

((0.000382933361/0.997551241928)/(0.00038/0.99757)-1)* 1000 = 7.738320327338977213 ...



((0.002065824710/0.997551241928)/(0.00205/0.99757)-1)* 1000 = 7.738320006408680641 ...,

两者不相等且不相等7.738320123873。

最佳答案

这是因为Excel将数字存储在IEEE754 64位中。此格式有16位有效数字。但是您列出的数字较少。例如,0.000382933361只有9位有效数字。我想,这个数字已经四舍五入供打印了。例如,它可以低至0.0003829333605001,也可以高至0.0003829333614999。这种不准确性会影响最终结果。

如果我用下界/上界数字代替AE62和AE63(四舍五入到列出的数字),我可以得到显示的结果:

  • AE77可以在[7.738319014156225251; 7.738321640521350631]之间
  • AE78可以介于[7.738319762989220862; 7.738320249827568276]

    这两个时间间隔都包含excel计算的数字7.738320123873。

    因此,总而言之,如果您可以更精确地打印数字(不舍入到小数点后12位,但至少要有17个有效数字),那么我相信您会发现Excel实际上可以精确地计算公式。

  • 关于excel - 为什么这两个公式会给我完全相同的错误值?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/45222690/

    25 4 0
    Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
    广告合作:1813099741@qq.com 6ren.com