JavaScript 浮点错误

Question

在我的应用程序中，我正在做一些客户端数学计算，并且经常由于浮点错误而出现错误。简化问题:

Math.floor((.3 - .1) * 10) == 1

还有其他更复杂的例子，但我的问题是:

解决潜在浮点错误的适当方法是什么？示例

Math.floor(fixFloat(.3 - .1) * 10) == 2

谢谢!

Answer 1

这不是一个 JavaScript 问题，而是一个浮点错误分析问题。幸运的是，这是一个很好理解的问题。

This page详细描述了如何分析浮点错误。这将使您可以为计算分配误差范围。其他不错的读物是维基百科页面 IEEE floating point format .

您实际上无法阻止此类错误。但是，您可以对它们进行严格限制，以便用户/客户对所产生的值(value)充满信心。此外，在某些情况下，您可以重新格式化方程以减少误差范围。

如果您对浮点误差分析有更多疑问，最好在 http://math.stackexchange.com 上提问。因为这确实是一个数学领域。