gpt4 book ai didi

scala - 如何让 Scala BigDecimal 显示大量数字?

转载 作者:行者123 更新时间:2023-12-02 14:11:54 24 4
gpt4 key购买 nike

执行以下操作

  val num = BigDecimal(1.0)
val den = BigDecimal(3.0)
println((num/den)(MathContext.DECIMAL128))

我只得到

0.3333333333333333333333333333333333

比我想要的128还小

最佳答案

默认上下文是 MathContext.DECIMAL128,它用于所有计算,因此在您的示例中,num/den 的结果已经四舍五入到 128 位。您需要首先设置所有值的上下文,然后进行计算。

val mc = new MathContext(512)
val num = BigDecimal(1.0,mc)
val den = BigDecimal(3.0,mc)
println(num/den)

不要尝试使用MathContext.UNLIMITED,除非您知道您的算术不会产生无限的十进制表示。甚至在您尝试打印之前它就会爆炸。

关于scala - 如何让 Scala BigDecimal 显示大量数字?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/8223095/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com