gpt4 book ai didi

java - BigDecimal 科学计数法 String 和普通 String

转载 作者:行者123 更新时间:2023-11-29 07:25:20 29 4
gpt4 key购买 nike

我有这段代码

BigDecimal a = new BigDecimal("8000000");
BigDecimal b = new BigDecimal("80e5");
System.out.println("a equal b? " +a.compareTo(b));

BigDecimal resultA = a.divide(new BigDecimal("1000"), BigDecimal.ROUND_UP);
BigDecimal resultB = b.divide(new BigDecimal("1000"), BigDecimal.ROUND_UP);

System.out.println(resultA.compareTo(resultB));
System.out.println(resultA);
System.out.println(resultB);

结果

a equal b? 0
-1
8000
1E+5

我不明白?为什么 8000000/1000 and round up 与 80e5/1000 and round up 不同?而java第一次说 a compare to b 是0(相等?)

最佳答案

您使用的 divide 方法将结果的比例设置为原始对象的比例:

BigDecimal.divide(BigDecimal, int)

Returns a BigDecimal whose value is (this / divisor), and whose scale is this.scale(). If rounding must be performed to generate a result with the given scale, the specified rounding mode is applied.

由于您从“80e5”创建了 b,它的比例是 -5,而 divide 必须将其结果四舍五入到 1e+5:

jshell> var b = new BigDecimal("80e5");
b ==> 8.0E+6

jshell> b.scale()
$4 ==> -5

jshell> var c = b.divide(new BigDecimal("1000"), BigDecimal.ROUND_UP);
c ==> 1E+5

jshell> c.scale()
$6 ==> -5

为了解决这个问题,你可以在除法时为结果设置你想要的比例:

jshell> b.divide(new BigDecimal("1000"), 0, BigDecimal.ROUND_UP);
$7 ==> 8000

关于java - BigDecimal 科学计数法 String 和普通 String,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/54299938/

29 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com