java - 乘法错误

Question

如果我乘以 12 x 25.4，我会得到 304.7，而我期望的是 304.8。我看到使用奇数 x 25.4 得到了正确的答案，但使用偶数似乎总是偏离 0.1。我正在编写一个很大程度上基于公式的科学应用程序，因此任何见解都会有所帮助。

if (((m1_sqs1_spinner.getSelectedItem().toString().equals("in"))))  

    { // start square in inches
         double m1_sqs1_eng = new Double(m1_sqs1.getText().toString()); 

         double square_effective_dia_inch = m1_sqs1_eng;

         double square_effective_dia_mm = square_effective_dia_inch * 25.4;
         m1_ed_mm.setText(Double.toString(square_effective_dia_mm));

    } // end square in inches

Answer 1

Java 中的 float 类型是近似值。尝试将 1 + 2 + 3 + 4 添加为 float 类型，最终可能会得到 10.00000003。

为了确保精确的数学计算，请尝试使用 java.math.BigDecimal 类型。它占用内存很大，但很准确。