gpt4 book ai didi

c++ - 谁能解释 C++/Python 中 log2 的不准确性?

转载 作者:行者123 更新时间:2023-11-30 01:49:42 27 4
gpt4 key购买 nike

我知道当 x 足够大时 log2(x) 精度会失败,并且对于大多数语言来说都是 2^n-1 的形式,但 R 和 Matlab 可能是。有什么具体原因吗?

编辑 1:x 是大约 10^15 及以上的整数

最佳答案

x 足够大时(我认为 IEEE double 大约为 4.5E15),2^n-1 不可表示。

关于c++ - 谁能解释 C++/Python 中 log2 的不准确性?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/28625131/

27 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com