floating-point - Goldberg论文中的ULP计算

Question

我一直在阅读每位计算机科学家应该知道的有关浮点算法的文章。

我已经看过各种ULP计算，并且在对减法的讨论出现之前，我对它非常了解。

Take another example: 10.1 - 9.93. This 
becomes 
x = 1.01 × 10^1

y = 0.99 × 10^1 
x - y = .02 × 10^1


The correct answer is .17, so the computed difference is off by 30 ulps 
and is wrong in every digit!

为什么是30ulps，而不是0.3ul？因为肯定的ulp是0.01x10 ^ 1，换句话说就是0.1。误差为0.03，即0.3 ulps。

Answer 1

正确的答案写在评论中，但我会将其写下来作为答案，以免隐藏在评论中。

基本上，x - y = .02 × 10^1被归一化为2.00 × 10^-1，这意味着在此归一化表示形式0.01 × 10^-1中，ULP现在是最小值。

因此错误是

0.03 / [(0.01 × 10^-1)/ULP] = 30 ULP