c# - c#中的双倍乘法

Question

我有一个我无法理解的简单乘法问题...我正在使用 .Net Framework 4，并在 x86 中构建。我正在执行以下代码:

double x = 348333.673899683;
double y = 4521014.98461396;
double aux = x * y;

aux 的期望值是1574821759346,09949827752137468(我用一个简单的计算器计算过)。但是，我在 aux 中获取的值是 1574821822464。请注意，这不是精度错误，即使是整数部分也已更改。

如果我在乘法中放置一个断点并将鼠标悬停在 de * 运算符上，我会看到 x * y = 1574821759346.0994 没问题。如果我将鼠标悬停在 aux 变量上，我会看到 aux = 1574821822464

为了把最后一段说清楚，可以看下面两张图:

首先，我认为这可能是因为 x86 编译，但阅读下一篇文章后，我放弃了这个选项:

The Double Byte Size in 32 bit and 64 bit OS

我不明白这里发生了什么。任何帮助将不胜感激。

---编辑更多信息---

我正在使用 VS2015。我又添加了三行来调试它:

log.Info(x);
log.Info(y);
log.Info(aux);

为了显示日志，我正在使用库 log4net。输出是:

23322 [8] INFO Art.Model.Scenarios (null) - 348333,673899683
24745 [8] INFO Art.Model.Scenarios (null) - 4521014,98461396
26274 [8] INFO Art.Model.Scenarios (null) - 1574821822464

所以这不是调试器中的错误。如果我创建一个全新的项目和解决方案，它工作正常，但我不明白为什么不能在这个解决方案中工作。

---第二次编辑---

感谢评论，我尝试了一些新东西:

double x = 348333.673899683;
double y = 4521014.98461396;
double aux = x * y;

decimal xx = 348333.673899683m;
decimal yy = 4521014.98461396m;
decimal auxx = xx * yy;

log.Info(x);
log.Info(y);
log.Info(aux);

log.Info(xx);
log.Info(yy);
log.Info(auxx);

结果是:

16129 [8] INFO Art.Model.Scenarios (null) - 348333,673899683
16145 [8] INFO Art.Model.Scenarios (null) - 4521014,98461396
16145 [8] INFO Art.Model.Scenarios (null) - 1574821822464
16145 [8] INFO Art.Model.Scenarios (null) - 348333,673899683
16145 [8] INFO Art.Model.Scenarios (null) - 4521014,98461396
16145 [8] INFO Art.Model.Scenarios (null) - 1574821759346,0994982775213747

因此它适用于decimal 但不适用于double。有人可以解释一下吗？我不明白为什么会这样。

Answer 1

最有可能的情况是，如果您使用的是 DirectX(我能找到问题背后的唯一原因)，这个问题似乎与每次创建和/或处理设备时都会强制 FPU 为单精度有关模式，从而失去准确性并导致 double、long、decimal 变量被截断。如果我尝试使用 IEEE-754 浮点转换器并输入您的数据，我会得到这个结果，这正是您的情况:您的数据在某些时候被读取为 double ，但随后被截断为单个.precision float ，如您所见:

这个问题可以通过在 FpuPreserve 标志下显式构建 Device 对象来解决。

我也遇到了这个问题，一开始虽然是关于不正确的转换，但经过长时间的跟踪后发现在我构建 DirectX 设备对象后值被截断了。