C++变量和调试器之间的不同值

Question

我正在使用 Visual Studio 使用 C++。

我遇到了一个奇怪的案例。有我的代码(简化版):

Point GetPoint(/*parameters*/)
{
    float Ax = 149; //Value depending on parameters
    float Ay = 20;
    float Bx = 29;
    float By = 19;
    double pAB = (Ay - By) / (Ax - Bx);
    double Sx = Cx;
    double Sy = pAB * (Cx - Ax) + Ay;
    // Sy = (20 - 19) / (149 - 29) * (29 - 149) + 20.0
    // => Sy = 1 / 120 * -120 + 20
    // => Sy = -1 + 20
    
    return new Point(static_cast<int>(Sx), static_cast<int>(Sy));
}

我预计 Sy = 19，但我的点值是 18。我启动调试器来理解，我发现了这个:

(Ay - By) / (Ax - Bx) = 0.00833333284

(20.0 - 19.0) / (149.0 - 29.0) = 0.0083333333333333332

pAB = 0.0083333337679505348

和:

(20.0 - 19.0) / (149.0 - 29.0) * (29.0 - 149.0) + 20.0 = 19

Sy = 18.999999947845936

最终类型转换将我的分数设置为 18 (sy < 19)。但是 C# 中的相同代码给我一个 19。为什么这些差异？我怎样才能得到 19？

Answer 1

C++ 和 C# 是不同的语言，具有不同的规则和不同的编译器。由于 float 在定义上是不精确的，因此任何细微的差异都可能导致您看到不同的值。

我根本不知道 C# 规则，但在 C++ 中，请注意当您将 pAB 键入为 double 时，您实际上是在计算它的值float(因为Ax、Ay、Bx、By都是 floats) 并且只有在那之后，值才会提升为 double。换句话说，您在这里使用 double 不会获得任何精度。也许这里的 C# 规则不同，不知道。

无论如何，如果您确保 pAB 是在 double 中计算的，您将获得这些特定数字的精确值:[live example] , 与 [the unchanged code] 相比.

确保 double 值实际上是在 double 中计算的可能是正确的解决方案。尽管如此，由于 float 不精确并且可能对您使用其他值“失败”，我建议使用 std::round如果您想要舍入行为，而不是转换为 int。