go - 精度乘以 big.Float 的奇怪损失

Question

如果您将字符串解析为 big.Float，如 f.SetString("0.001")，然后将其相乘，我会发现精度有所下降。如果我使用 f.SetFloat64(0.001)，我不会失去精度。即使执行 strconv.ParseFloat("0.001", 64)，然后调用 f.SetFloat() 也能正常工作。

我在这里看到的完整示例:

https://play.golang.org/p/_AyTHJJBUeL

从这个问题展开:https://stackoverflow.com/a/47546136/105562

Answer 1

输出的差异是由于 float64 ( IEEE-754 format ) 中以 10 为底的 float 表示不精确以及 big.Float 的默认精度和舍入造成的.

查看这个简单的代码来验证:

fmt.Printf("%.30f\n", 0.001)
f, ok := new(big.Float).SetString("0.001")
fmt.Println(f.Prec(), ok)

上面的输出(在 Go Playground 上尝试):

0.001000000000000000020816681712
64 true

所以我们看到的是float64值0.001不完全是0.001，big.Float的默认精度 是 64。

如果您通过 string 值增加您设置的数字的精度，您将看到相同的输出:

s := "0.001"
f := new(big.Float)
f.SetPrec(100)
f.SetString(s)
fmt.Println(s)
fmt.Println(BigFloatToBigInt(f))

现在输出也将相同(在 Go Playground 上尝试):

0.001
1000000000000000