ruby - 如何防止 BigDecimal 截断结果？

Question

跟进 this question :

我想计算 1/1048576 并得到正确的结果，即 0.00000095367431640625。

使用 BigDecimal 的 / 截断结果:

require 'bigdecimal'
a = BigDecimal.new(1)
#=> #<BigDecimal:7fd8f18aaf80,'0.1E1',9(27)>
b = BigDecimal.new(2**20)
#=> #<BigDecimal:7fd8f189ed20,'0.1048576E7',9(27)>

n = a / b
#=> #<BigDecimal:7fd8f0898750,'0.9536743164 06E-6',18(36)>

n.to_s('F')
#=> "0.000000953674316406" <- should be ...625

这真的让我感到惊讶，因为我的印象是 BigDecimal 可以正常工作。

为了获得正确的结果，我必须以明确的精度使用 div:

n = a.div(b, 100)
#=> #<BigDecimal:7fd8f29517a8,'0.9536743164 0625E-6',27(126)>

n.to_s('F')
#=> "0.00000095367431640625" <- correct

但我并不真正理解精度 论点。为什么我必须指定它以及我必须使用什么值才能获得未截断的结果？

这是否符合“任意精度浮点十进制算术”？

此外，如果我通过以下方式计算上述值:

a = BigDecimal.new(5**20)
#=> #<BigDecimal:7fd8f20ab7e8,'0.9536743164 0625E14',18(27)>
b = BigDecimal.new(10**20)
#=> #<BigDecimal:7fd8f2925ab8,'0.1E21',9(36)>

n = a / b
#=> #<BigDecimal:7fd8f4866148,'0.9536743164 0625E-6',27(54)>

n.to_s('F')
#=> "0.00000095367431640625"

我确实得到了正确的结果。为什么？

Answer 1

BigDecimal 可以执行任意精度的浮点小数运算，但它不能自动确定给定计算的“正确”精度。

例如，考虑

BigDecimal.new(1)/BigDecimal.new(3)
# <BigDecimal:1cfd748, '0.3333333333 33333333E0', 18(36)>

可以说，在这种情况下没有正确的精度；使用正确的值取决于您的计算所需的准确性。值得注意的是，在数学意义上†，几乎所有整数除法都会产生一个无限小数展开的数字，因此需要四舍五入。如果在将分数化为最低项后，分母的质因数只有 2 和 5，则该分数只有有限表示。

所以你必须指定精度。不幸的是，精度参数有点奇怪，因为它似乎既是有效位数，又是小数点后的位数。这是不同精度的 1/1048576

1   0.000001
2   0.00000095
3   0.000000953
9   0.000000953
10  0.0000009536743164
11  0.00000095367431641
12  0.000000953674316406
18  0.000000953674316406
19  0.00000095367431640625

对于任何小于 10 的值，BigDecimal 会将结果截断为 9 位数字，这就是为什么在精度为 10 时精度会突然飙升:此时切换为截断为 18 位数字(然后四舍五入为 10 位有效数字) .

---

† 取决于您比较可数无限集大小的舒适程度。