- iOS/Objective-C 元类和类别
- objective-c - -1001 错误,当 NSURLSession 通过 httpproxy 和/etc/hosts
- java - 使用网络类获取 url 地址
- ios - 推送通知中不播放声音
我在四舍五入时遇到问题。具体来说,在阅读了所有 javadoc 之后,我期待以下代码:
int n = (integer between 0 and 9, included)
new BigDecimal(n + 0.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
返回 n + 0.56
。相反,这些是 n
从 0
到 4
的返回值:
new BigDecimal(0.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
0.56
new BigDecimal(1.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
1.55
new BigDecimal(2.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
2.56
new BigDecimal(3.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
3.56
new BigDecimal(4.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
4.55
我也试过改变舍入模式:
int n = (integer between 0 and 9, included)
new BigDecimal(n + 0.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
期望 n + 0.55
作为每个 n
的结果。相反,返回值与前面的示例完全相同:
new BigDecimal(0.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
0.56
new BigDecimal(1.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
1.55
new BigDecimal(2.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
2.56
new BigDecimal(3.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
3.56
new BigDecimal(4.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
4.55
我错过了什么吗?
最佳答案
你遇到的问题是 double 不是一个精确的表示,你是基于这个不精确的数字进行舍入的。
BigDecimal bd = new BigDecimal(1.555d);
System.out.println("bd=" + bd);
bd = bd.setScale(2, RoundingMode.HALF_UP);
System.out.println("after rounding bd=" + bd);
double d = bd.doubleValue();
System.out.println("after rounding d=" + d);
打印
bd=1.5549999999999999378275106209912337362766265869140625
after rounding bd=1.55
after rounding d=1.55
不过
BigDecimal bd = BigDecimal.valueOf(1.555d);
System.out.println("bd=" + bd);
bd = bd.setScale(2, RoundingMode.HALF_UP);
System.out.println("after rounding bd=" + bd);
double d = bd.doubleValue();
System.out.println("after rounding d=" + d);
打印
bd=1.555
after rounding bd=1.56
after rounding d=1.56
这是有效的,因为 BigDecimal.valueOf
根据打印时 double 的显示方式做了一些额外的舍入。
但是,除非性能/简单性不是问题,否则我不会使用 BigDecimal。
double d = 1.555d;
System.out.println("d=" + d);
d = roundToTwoPlaces(d);
System.out.println("after rounding d=" + d);
public static double roundToTwoPlaces(double d) {
return ((long) (d < 0 ? d * 100 - 0.5 : d * 100 + 0.5)) / 100.0;
}
打印
d=1.555
after rounding d=1.56
更多详情 Double your money again比较不同舍入方式的性能。
关于java - java.math.RoundingMode 是如何工作的?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/7124448/
我的 Java println 语句中有以下代码行: System.out.println("Iteration: " + counter + "\tRoot: " + new
这个问题已经有答案了: Is floating point math broken? (33 个回答) 已关闭 5 年前。 所以我有这个代码 public String getRounded(doub
像这样制作我自己的格式化程序: enum Formatters { enum Number { static let moneyFormatter: NumberFormatter = {
请随意评论我。下面的程序出了什么问题。它给出了不同的回合结果。 public class Test { public static String round(double value, int
据我了解,RoundingMode.HALF_UP 使用我们传统的舍入方式。但是,它没有给我想要的结果: 我正在使用具有不同参数(#、#.#、...等)的 DecimalFormat() 并输入 do
我编写此代码是为了测试 BigDecimal 的运行情况,但发现 RoundingMode.UNNECESSARY 引发了异常。谁能解释一下为什么? public class TestRounding
我正在尝试编写一个程序,该程序使用牛顿法计算用户提供的指定精度 (k) 的整数 (n) 的平方根。该程序运行良好,但我注意到我认为是一个舍入问题。有人可以帮我解决这个问题吗? 例如: 对于输入:n =
基于this stackoverflow post ,我希望以下内容打印出 0.59 而不是 0.60。 import java.math.RoundingMode; import java.text
我认为它返回1.13,但freemarker返回1.12。 什么是正确的? ${(1.125)?string(",##0.00;roundingMode=HALF_UP")} freemarker 版
这个问题已经有答案了: Java BigDecimal setScale and rounding with half_even (1 个回答) 已关闭 6 年前。 我正在尝试调试 HALF_EVEN
为什么这个 DecimalFormat 没有按预期使用 RoundingMode.HALF_UP 进行舍入,应该怎么做才能获得预期的输出?可以用 DecimalFormat 来完成吗? Decimal
我在四舍五入时遇到问题。具体来说,在阅读了所有 javadoc 之后,我期待以下代码: int n = (integer between 0 and 9, included) new BigDecim
当我这样做时: let a = self.oddsNumberFormatter.stringFromNumber(2.601) // 2.60 let b = self.oddsNumberForm
当我用HALF_EVEN模式对双数取整时,发现一个问题,不知道是不是JDK的bug?请看下面的代码: public static void main(String[] args) { Roun
看来 HALF_EVEN 舍入模式在 Java DecimalFormat 中的工作方式与 BigDecimal 不同。有没有办法使 DecimalFormat 保持一致? // Using BigD
目前我正在编写一个程序来计算数学常数。但是,我在舍入 BigDecimal 时遇到问题。一旦达到非终止小数 (1.6),就会抛出错误。我认为问题在于舍入线,但它也将其设置为正确的小数位数,但没有舍入它
我有大约 400 个使用 RoundingMode.HALF_UP 的语句,并且根据应用的性质,我希望用户能够在舍入模式之间进行选择。但是,如果可能的话,我不知道如何将其表示为变量。由于语句数量令人难
每当有十进制值时,我都试图四舍五入一个 Double 数字。我正在尝试以下。 以下代码段按预期四舍五入所有其他值。 1.08 -> 2 9.5 -> 10 但是将 0.08 舍入为 0 而不是 1。我
如何在 BigDecimal 中的点后只保留 3 个值? 我找到了一个解决方案,但它需要一个 RoundingMode BigDecimal d = BigDecimal.valueOf(0.
RoundingMode.HALF_EVEN 的 javadoc 指出: This rounding mode is analogous to the rounding policy used for
我是一名优秀的程序员,十分优秀!