gpt4 book ai didi

c# - 预测两个 double 之和

转载 作者:行者123 更新时间:2023-11-28 09:28:15 30 4
gpt4 key购买 nike

Possible Duplicate:
Is JavaScript’s Floating-Point Math Broken?

这将是一个非常基本的计算机科学问题。考虑下面的 C#(这同样适用于 JS,我认为这就是数学如何处理 double 的一般情况)。

var i = .01;
i+=.01; //i=.02
i+=.01; //i=.03
i+=.01; //i=.04
i+=.01; //i=.05
i+=.01; //i=.0600000000005 (I may have added/missed a few 0s in there)
i+=.01; //i=.07
i+=.01; //i=.08
i+=.01; //i=.09
i+=.01; //i=.0999999999992 (I may have added/missed a few 9s in there)

那么,发生了什么以及如何准确预测 i+.01 的总和?

最佳答案

double 不仅仅是获取数字小数点的一种方法。它使用 float 学。 This article by Pete Becker很好地解释了它是如何工作的。

关于c# - 预测两个 double 之和,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/14031778/

30 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com