gpt4 book ai didi

Excel 不能正确计算简单的算术运算

转载 作者:行者123 更新时间:2023-12-04 21:54:04 24 4
gpt4 key购买 nike

我在 Excel 中有一个表格,里面有两个 colymns:AB .专栏 B ,从第二行开始,取值 B列,高一行并从列 A 中减去值从它高出一排。

332 406 053,41    |   3 300 000 000,00
0,00 | 2 967 593 946,59
0,00 | 2 967 593 946,59
0,00 | 2 967 593 946,59
0,00 | 2 967 593 946,59
0,00 | 2 967 593 946,59
0,00 | 2 967 593 946,59
0,00 | 2 967 593 946,59
0,00 | 2 967 593 946,59
110 802 017,80 | 2 967 593 946,59
110 802 017,80 | 2 856 791 928,79
110 802 017,80 | 2 745 989 910,99
0,00 | 2 635 187 893,19
585 597 309,59 | 2 635 187 893,19
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
0,00 | 2 049 590 583,60
55 634 374,57 | 2 049 590 583,60
55 634 374,57 | 1 993 956 209,03
55 634 374,57 | 1 938 321 834,46
55 634 374,57 | 1 882 687 459,88
55 634 374,57 | 1 827 053 085,31
55 634 374,57 | 1 771 418 710,74
55 634 374,57 | 1 715 784 336,17
55 634 374,57 | 1 660 149 961,60
55 634 374,57 | 1 604 515 587,03
55 634 374,57 | 1 548 881 212,46
55 634 374,57 | 1 493 246 837,89
55 634 374,57 | 1 437 612 463,32
55 634 374,57 | 1 381 978 088,75
55 634 374,57 | 1 326 343 714,17
55 634 374,57 | 1 270 709 339,60
55 634 374,57 | 1 215 074 965,03
55 634 374,57 | 1 159 440 590,46
55 634 374,57 | 1 103 806 215,89
55 634 374,57 | 1 048 171 841,32
55 634 374,57 | 992 537 466,75
55 634 374,57 | 936 903 092,18
55 634 374,57 | 881 268 717,61
55 634 374,57 | 825 634 343,04
769 999 968,47 | 769 999 968,47
0,00 | -0,0000010729

enter image description here

列中的总和 A等于 B1 中的值.但是,最后一行 B不等于 0。它小于零并且是一个浮点数。

这怎么可能以及如何在所有减法之后得到零?我以前做过类似的计算,没有问题。

最佳答案

这里的坏消息:Excel 对所有数字单元格使用 IEEE754 double 浮点类型。

这为您提供了大约 15 个十进制有效数字的精度(永远不会比这更差,有时甚至更好)。

您的数字大约是 12 位有效数字,并且您在此处进行的增量计算的数量如此之大,以至于您会将错误的累积推向显着性。

除了可能将最终结果四舍五入到小数点后三位,或者重新审视逻辑以减少计算过程的深度之外,您对此无能为力。

更多详情,请参阅 Is floating point math broken?

关于Excel 不能正确计算简单的算术运算,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/48382288/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com