gpt4 book ai didi

floating-point - float 和 double 中的小数位数是如何计算的?

转载 作者:行者123 更新时间:2023-12-04 10:59:54 24 4
gpt4 key购买 nike

我对编程很陌生,在大学里我们学习了不同类型的数字(整数、短整数、浮点数、 double 数)。 Float 和 double 是浮点数。通常,它们由符号 +/-、尾数和指数组成。每个部分占用一定数量的位。
浮点数最多可显示 7 位小数,加倍最多可显示 16 位。
那个公式是:

23·log10(2)=23·(log(2)/log(10))≈23·0.3≈7(浮点数的小数位)

52·0.3≈16(双数的小数位)

我知道 23 和 52 是尾数的位。但是对数从何而来?这如何计算小数位数?

最佳答案

23 位可以表示 223 个值。 N 个十进制数字可以表示 10N 个值。

可以表示与 23 位相同的一组值的十进制位数的计算简化为求解方程中的 N:

223 = 10N

日志(223)=日志(10N)

23*log(2) = N*log(10)

N = 23*(log(2)/log(10))

当然,您不能有小数位或十进制数字,因此您必须根据结果的使用方式向上或向下舍入。

关于floating-point - float 和 double 中的小数位数是如何计算的?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/58883325/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com