gpt4 book ai didi

c - C float 中的精度

转载 作者:太空狗 更新时间:2023-10-29 16:57:57 26 4
gpt4 key购买 nike

一般我们说一个 float 的精度是小数点后6位。但是如果我们存储大量的10^30的阶数,我们将得不到小数点后6位。那么说 float 精度为小数点后6位是否正确呢?

最佳答案

“小数点后 6 位”是无稽之谈,您的示例很好地证明了这一点。

Thisfloat 数据类型的精确规范。

float 的精度是24 位。根据在线资源,有 23 位表示二进制小数点后的小数,此外还有一个“隐式前导位”。这总共给出了 24 个有效位。

因此,在十进制数字中,这大约是:

24 * log(2)/log(10) = 7.22

关于c - C float 中的精度,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/9765744/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com