c++ - float 到整数的精度与 double 到整数的精度，意想不到的结果

Question

我是计算机工程专业的学生，​​在 BYU-Idaho 辅导 C++ 入门类(class)，一名学生成功地难倒了我。

如果为此编写代码:

#include <iostream>
using namespace std;
int main()
{
   float y = .59;
   int x = (int)(y * 100.0);
   cout << x << endl;
   return 0;
}

结果 = 58

#include <iostream>
using namespace std;
int main()
{
   double y = .59;
   int x = (int)(y * 100.0);
   cout << x << endl;
   return 0;
}

结果 = 59

我告诉他这是一个精度问题，因为 int 比 float 更精确，所以它会丢失信息。 double 比 float 更精确，所以它可以工作。

但是我不确定我说的是否正确。我认为这与用零填充的 int 有关，结果它在转换时被“截断”，但我不确定。

如果你们中有人想解释所有这一切“背后”发生的事情，我会觉得很有趣!

Answer 1

问题是 float 不够准确，无法保持 exact 值 0.59。如果您存储这样的值，它将以二进制表示形式(已经在编译时)四舍五入为不同的东西，在您的情况下，这是一个略小于 0.59 的值(它也可能略大于您想要的值).将其乘以 100 时，得到的值略小于 59。将这样的值转换为整数会将其四舍五入朝向 0，因此得到 58。

0.59 作为 float 将存储为(现在表示为人类可读的十进制数):

0.589999973773956298828125

现在是double 类型。虽然这种类型本质上有相同的问题，但您得到预期结果的原因可能有两个: double 中的任何一个都可以保存您想要的 exact 值(这不是0.59 的情况，但对于其他值可能是这种情况)，或者编译器决定将其向上舍入。因此，将其与 100 相乘会得到一个不小于 59 的值，并将按预期四舍五入到 0 到 59。

现在请注意，作为 double 的 0.59 可能仍被编译器四舍五入。确实，我刚刚检查了一下，确实如此。 0.59 作为 double 将存储为:

0.58999999999999996891375531049561686813831329345703

但是，在将其转换为整数之前，您将该值乘以 100。现在有一个有趣的点:当乘以 100 时，编译器输入的 y 与 0.59 的差值被消除，因为 0.59 * 100 不能再次准确存储。事实上，处理器计算出 0.58999999999999996891375531049561686813831329345703 * 100.0，它将向上舍入为 59，这个数字可以用double表示!

有关详细信息，请参阅此代码:http://ideone.com/V0essb

现在您可能想知道为什么 float 不一样，它的行为应该完全相同，但精度不同。问题是 0.589999973773956298828125 * 100.0 不四舍五入到 59(也可以用 float 表示).计算后的舍入行为并未真正定义。

事实上， float 的运算并没有明确规定，这意味着您可能会在不同的机器上遇到不同的结果。这使得实现性能调整成为可能，这会导致稍微不正确的结果，即使不涉及舍入!可能会出现这样的情况，在另一台机器上您最终得到了预期的结果，而在其他机器上却没有。