gpt4 book ai didi

c++ - 了解浮点精度

转载 作者:太空狗 更新时间:2023-10-29 19:44:13 26 4
gpt4 key购买 nike

是不是这样:

  1. 可表示的浮点值在接近零的实数线上最密集?
  2. 随着数字线远离零,可表示的浮点值变得越来越稀疏(呈指数增长?)?
  3. 如果以上两个为真,是否意味着离零越远精度越低

总体问题:精度在某种程度上是指或取决于您可以(准确)表示的数字的密度吗?

最佳答案

术语精度通常是指表示值中有效数字(位)的数量。因此精度随表示的尾数中的位数(或数字)而变化。与原点的距离无关紧要。

关于实线上 float 的密度,你所说的是真的。但在这种情况下,正确的术语是准确度,而不是精确度。小幅度的 FP 数字比大的 FP 数字准确得多。这与整数形成对比,整数在其范围内具有统一的精度。

高度推荐论文What Every Computer Scientist Should Know About Floating Point Arithmetic ,其中涵盖了这一点以及更多内容。

关于c++ - 了解浮点精度,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/12047270/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com