gpt4 book ai didi

floating-point - 如何根据位数计算精度的十进制位数?

转载 作者:行者123 更新时间:2023-12-04 17:54:48 26 4
gpt4 key购买 nike

我正在学习浮点格式 (IEEE)。
在单精度浮点格式中,提到尾数有 24 位,因此它有 6 1/2 十进制数字的精度(如“理解机器”一书),和 7.22 decimal digits of precision .

我不明白精度的十进制数字是如何计算的。
有人可以启发我吗?

最佳答案

对于 24 位,假设为符号保留一位,那么您可以表示的最大十进制数是 2^23-1=8388607。也就是说,您可以获得 6 位数字,有时还可以获得 7 位数字。这通常表示为“6 1/2 位数”。如果 24 位代表一个无符号数,那么您可以存储的最大值是 2^24-1=16,777,215,或 7 和一个小数位。

当有人为您引用一个带有明确小数位(如 7.22 位十进制数字)的数字时,他们所做的是取最大值的对数(以 10 为底)。所以 log(16777115)=7.22。

通常,您将从给定位数中获得的十进制位数为:

d=log[base 10](2^b)

其中 b 是位数,d 是十进制数字的位数。然后:
d=b * log(2)
d~=b * .3010

所以 24 位给出 24 * .3010 = 7.224

关于floating-point - 如何根据位数计算精度的十进制位数?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/10484332/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com