gpt4 book ai didi

java - float 转换过程中可能会丢失精度

转载 作者:行者123 更新时间:2023-11-29 03:26:50 27 4
gpt4 key购买 nike

我在 google 上搜索了如何在 java 中获取 float 的小数点后两位。以下是我的代码。最后在这里 float totalWeight = 0.1*levinWeight+0.8*lsmWeight; 我得到了可能丢失精度的错误?我想先将字符串转换为 float ,然后将其保留为 2 位小数。

float levinWeight = Float.parseFloat(dataOnlyCombine[2]);
float lsmWeight = Float.parseFloat(dataOnlyCombine[3]);
DecimalFormat df = new DecimalFormat("#.##");
levinWeight = Float.valueOf(df.format(levinWeight));
lsmWeight = Float.valueOf(df.format(lsmWeight));
float totalWeight = 0.1*levinWeight+0.8*lsmWeight;

最佳答案

如果你担心精度

  • 不要使用float,它是所有可用选项中精度最低的。我建议使用 doubleBigDecimal
  • 使用涉及可以准确表示的值的操作。 0.1 * x 会给你错误,因为 0.1 不能精确表示。使用 x/10.0 会减少错误。

我会这样写

double levinWeight = Double.parseDouble(dataOnlyCombine[2]);
double lsmWeight = Double.parseDouble(dataOnlyCombine[3]);
double totalWeight = (levinWeight + 8 * lsmWeight) / 10.0;
// perform rounding only at the end as appropriate.

// to round to two decimal places
double totalWeight2 = Math.round(totalWeight * 100) / 100.0;

关于java - float 转换过程中可能会丢失精度,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/20593682/

27 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com