c++ - 浮点除法的软件实现，舍入问题

Question

作为一个学习项目，我正在使用 C++ 在软件中实现浮点运算(add、sub、mul、div)。目标是更加熟悉浮点行为的底层细节。

我正在尝试将我的处理器操作与精确位匹配，即 IEEE 754 标准。到目前为止，它一直运行良好，add、sub 和 mult 表现完美，我对它进行了大约 1.1 亿次随机操作测试，并得到了与处理器在硬件中所做的完全相同的结果。 (虽然没有考虑边缘情况、溢出等)。

之后，我开始移动到最后一个操作，除法。它工作正常并达到了想要的结果，但有时我会把最后一个尾数弄错，而不是四舍五入。我很难理解为什么。我一直在使用的主要引用是来自 John Farrier 的精彩演讲(时间戳位于显示如何舍入的位置):

https://youtu.be/k12BJGSc2Nc?t=1153

四舍五入对所有操作都非常有效，但给我的部门带来了麻烦。让我给你一个具体的例子。我正在尝试将 645.68011474609375 除以 493.20962524414063

我得到的最终结果是:

我的:0-01111111-01001111001000111100000

c++_:0-01111111-01001111001000111100001

如您所见，除最后一位外，所有内容都匹配。我计算除法的方式是基于这个视频: https://www.youtube.com/watch?v=fi8A4zz1d-s

在此之后，我计算了尾数精度 24 的 28 位(隐藏 1 + 23 尾数)和守卫的 3 位，圆形粘性加上可能移位的额外一位。使用视频的算法，我最多可以获得 1 的归一化偏移，这就是为什么我在末尾有一个额外的位以防在归一化中移入，所以在舍入中可用。现在这是我从除法算法中得到的结果:

 010100111100100011110000 0100
 ------------------------ ----
 ^                        grs^
 |__ to be normalized        |____ extra bit

如您所见，我在第 24 个位置得到了 0，因此我需要向左移动一位以获得正确的归一化。这意味着我将得到:

10100111100100011110000 100

根据 John Farrier 的视频，在 100 grs 位的情况下，我仅在尾数的 LSB 为 1 时才进行归一化。在我的情况下为零，这就是为什么我没有对我的结果进行四舍五入。

我有点迷茫的原因是我确信我的算法正在计算正确的尾数，我已经用在线计算器仔细检查过它，舍入策略适用于所有其他操作。此外，以这种方式计算会触发归一化，最终产生正确的指数。

我错过了什么吗？某个地方的小细节？

让我感到奇怪的一件事是粘滞位，在加法和乘法中你会得到不同程度的移位，这导致粘滞位触发的可能性更高，在这种情况下，我只移动一个使粘性位不是真正粘性的最大值。

我确实希望我提供了足够的细节以使我的问题得到理解。在这里，您可以在底部找到我的除法实现，其中充满了我用于调试的打印，但应该让您了解我在做什么，代码从第 374 行开始:

https://gist.github.com/giordi91/1388504fadcf94b3f6f42103dfd1f938

PS:与此同时，我正在浏览“科学家应该知道的关于 float 的一切”，看看我是否遗漏了什么。

Answer 1

您从除法算法中得到的结果不充分。你显示:

 010100111100100011110000 0100
 ------------------------ ----
 ^                        grs^
 |__ to be normalized        |____ extra bit

数学上精确的商继续:

 010100111100100011110000 0100 110000111100100100011110…

因此，四舍五入处的余数超过 ½ ULP，因此应四舍五入。我没有详细研究您的代码，但看起来您可能刚刚计算了一个或两个有效数¹。您实际上需要知道残差是非零的，而不仅仅是它的下一位或两位是否为零。如果精确数学结果中位于或超出该位置的位中的任何非零，则最终粘性位应为 1。

脚注

¹ “有效数”是首选术语。 “尾数”是对数的小数部分的旧术语。浮点值的有效数字是线性的。尾数是对数。