gpt4 book ai didi

c# - float 和 double - 尾数 POV?

转载 作者:行者123 更新时间:2023-11-30 14:56:17 26 4
gpt4 key购买 nike

单精度(32 位):位除法为 like this :

enter image description here

所以我们有 23 位的尾数/有效数。

因此我们可以表示 2^23 个数字(通过 23 位):即 8388608 --> 7 位长。

但是

我读到尾数是标准化的(尾数中的前导数字总是 1)- 所以模式实际上是 1.mmm只有 mmm 在尾数中表示。

例如:看这里:

enter image description here

表示为0.75,但实际上是1.75

问题#1

所以基本上它增加了 1 个精度数字....不是吗?

如果是,那么我们有 8 个有效数!

那么为什么 msdn 说:7?

enter image description here

问题#2

double 有 52 位尾数。 (0..51)

如果我为归一化尾数加 1,那么它的 2^53 可能是:9007199254740992(16 位)

MS 确实说:15-16:

enter image description here

为什么会出现这种不一致?我错过了什么吗?

最佳答案

它不会再添加一个十进制 数字 - 只是一个二进制数字。所以不是 23 位,而是 24 位。这很方便,因为唯一不能表示为以 1 开头的数字是零,这是一个特殊值。

简而言之,您看的不是 2 ^ 24(这是一个以 10 为基数的十进制数)- 您看的是 2 ^ (-24)。这是float-doubledecimal 之间最重要的区别。 decimal 是您想象中的 float ,即。一个简单的指数移位、以 10 为底的数字。 floatdouble 不是那样。

现在,十进制数字与二进制数字是一件棘手的事情。您错误地理解精度与 2 ^ 24 数字有任何关系 - 只有当您谈论例如decimal 类型,它实际上将十进制值存储为普通(巨大的)整数的小数点偏移量。

就像1/3不能写成十进制(0.333333...)一样,很多简单的十进制数也不能精确地用 float 表示( >0.2 就是典型的例子)。 decimal 对此没有问题 - 它只是 2 向右移动了一位数,简单易行。但是,对于 float ,您必须将此值表示为两个负幂的总和 - 0.50.250.125 ...如果 2 不是 10 的因数,则同样适用于相反的方向 - 每个有限二进制“十进制”都可以用十进制的有限精度表示。

现在,事实上,float 可以很容易地表示一个具有 24 位十进制数字的数字 - 它只需要是 2 ^ (-24) - 一个你想要的数字在你平常的日常工作中不会遇到,以及十进制的奇怪数字。那么7(实际上更像7.22...)是从哪里来的呢?很简单,做一个2 ^ (-24)的十进制对数就可以了。

事实上 0.2 似乎可以在 float 中“准确”表示,这仅仅是因为每次您例如将其转换为字符串,您正在四舍五入。因此,即使该数字不完全是 0.2,当您将其转换为十进制数时,它也会以这种方式结束。

所有这些意味着当您需要小数精度时,您想要使用decimal,就这么简单。这并不是因为它是更好的计算基础,而是因为人们使用它,如果您的应用程序给出的结果与他们在纸上计算的结果不同,他们将不会高兴 - 特别是在处理金钱时。会计师非常注重确保所有内容都正确到最低有效数字。

float 用于与小数精度无关,而是通常具有某种精度的地方 - 这使它们非常适合物理计算和类似计算,因为您实际上并不关心数字是否相同十进制 - 您正在使用给定的精度,并且您将得到 - 24 个重要的二进制“小数”。

关于c# - float 和 double - 尾数 POV?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/23212538/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com