erlang - Erlang 中的精度

Question

下一个代码在结果中给了我 5.999999999999998，但正确答案是 6。

Alpha = math:acos((4*4 + 5*5 - 3*3) / (2*4*5))
Area = 1/2 * 4 * 5 * math:sin(Alpha)

有可能拿到6吗？

Answer 1

您遇到了一个非常普遍的问题，它有自己的网站，What Every Programmer Should Know About Floating-Point Arithmetic .问题是由于浮点运算在市场上几乎所有支持 FP 运算的 CPU 中的工作方式；它不是特定于 Erlang 的。

如果常规浮点算术不能为您提供所需的精度或准确度，您可以使用任意精度算术库而不是内置算术。也许最著名的此类库是 GMP ，但您必须将其包裹在 NIFs 中从 Erlang 使用它。

有at least one pure-Erlang alternative ，但我没有这方面的经验，所以我不能个人认可它。