gpt4 book ai didi

ruby-on-rails - Ruby BigDecimal 乘法

转载 作者:数据小太阳 更新时间:2023-10-29 08:30:50 26 4
gpt4 key购买 nike

我在 Bigdecimal 乘法方面遇到了麻烦。我有一个专栏:

t.decimal "average_price", precision: 8, scale: 2

我的示例 average_price 看起来像 "3.59280368"。当我尝试使用此值进行一些计算时,我得到:

@itam.average_price * 1000000 = 3590000

为什么不是 3592803

最佳答案

根据rails api documentation :

The precision is the total number of significant digits and the scale is the number of digits that can be stored following the decimal point.

因此,在数据库中:3.59280368 将存储为 3.59

关于ruby-on-rails - Ruby BigDecimal 乘法,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/36247393/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com