gpt4 book ai didi

mysql - FLOAT 有几位数字?

转载 作者:行者123 更新时间:2023-11-29 01:17:19 26 4
gpt4 key购买 nike

我找遍了,找不到这个答案。

MySQL FLOAT 有多少实际数字?

我知道(认为?)它会截断超出 FLOAT 的 4 字节限制的内容,但那到底是什么?

最佳答案

来自 the manual (强调我的):

For FLOAT, the SQL standard permits an optional specification of the precision (but not the range of the exponent) in bits following the keyword FLOAT in parentheses. MySQL also supports this optional precision specification, but the precision value is used only to determine storage size. A precision from 0 to 23 results in a 4-byte single-precision FLOAT column. A precision from 24 to 53 results in an 8-byte double-precision DOUBLE column.

因此,最多 23 位精度的尾数可以存储在 FLOAT 中,这相当于大约 7 个十进制数字,因为 2^23 ~ 10^7(8,388,608 对 10,000,000)。我测试了它here .可以看到返回了 12 位十进制数字,其中只有前 7 位是真正准确的。

关于mysql - FLOAT 有几位数字?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/14637565/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com