- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
单精度(32 位):位除法为 like this :
所以我们有 23 位的尾数/有效数。
因此我们可以表示 2^23 个数字(通过 23 位):即 8388608
--> 7 位长。
但是
我读到尾数是标准化的(尾数中的前导数字总是 1)- 所以模式实际上是 1.mmm
和 只有 mmm
在尾数中表示。
例如:看这里:
表示为0.75,但实际上是1.75
问题#1
所以基本上它增加了 1 个精度数字....不是吗?
如果是,那么我们有 8 个有效数!
那么为什么 msdn 说:7?
问题#2
double 有 52 位尾数。 (0..51)
如果我为归一化尾数加 1,那么它的 2^53 可能是:9007199254740992
(16 位)
MS 确实说:15-16:
为什么会出现这种不一致?我错过了什么吗?
最佳答案
它不会再添加一个十进制 数字 - 只是一个二进制数字。所以不是 23 位,而是 24 位。这很方便,因为唯一不能表示为以 1 开头的数字是零,这是一个特殊值。
简而言之,您看的不是 2 ^ 24
(这是一个以 10 为基数的十进制数)- 您看的是 2 ^ (-24)
。这是float
-double
和decimal
之间最重要的区别。 decimal
是您想象中的 float ,即。一个简单的指数移位、以 10 为底的数字。 float
和 double
不是那样。
现在,十进制数字与二进制数字是一件棘手的事情。您错误地理解精度与 2 ^ 24
数字有任何关系 - 只有当您谈论例如decimal
类型,它实际上将十进制值存储为普通(巨大的)整数的小数点偏移量。
就像1/3
不能写成十进制(0.333333...
)一样,很多简单的十进制数也不能精确地用 float 表示( >0.2
就是典型的例子)。 decimal
对此没有问题 - 它只是 2
向右移动了一位数,简单易行。但是,对于 float ,您必须将此值表示为两个负幂的总和 - 0.5
、0.25
、0.125
...如果 2
不是 10
的因数,则同样适用于相反的方向 - 每个有限二进制“十进制”都可以用十进制的有限精度表示。
现在,事实上,float
可以很容易地表示一个具有 24 位十进制数字的数字 - 它只需要是 2 ^ (-24)
- 一个你想要的数字在你平常的日常工作中不会遇到,以及十进制的奇怪数字。那么7
(实际上更像7.22...
)是从哪里来的呢?很简单,做一个2 ^ (-24)
的十进制对数就可以了。
事实上 0.2
似乎可以在 float
中“准确”表示,这仅仅是因为每次您例如将其转换为字符串,您正在四舍五入。因此,即使该数字不完全是 0.2
,当您将其转换为十进制数时,它也会以这种方式结束。
所有这些意味着当您需要小数精度时,您想要使用decimal
,就这么简单。这并不是因为它是更好的计算基础,而是因为人们使用它,如果您的应用程序给出的结果与他们在纸上计算的结果不同,他们将不会高兴 - 特别是在处理金钱时。会计师非常注重确保所有内容都正确到最低有效数字。
float 用于与小数精度无关,而是通常具有某种精度的地方 - 这使它们非常适合物理计算和类似计算,因为您实际上并不关心数字是否相同十进制 - 您正在使用给定的精度,并且您将得到 - 24 个重要的二进制“小数”。
关于c# - float 和 double - 尾数 POV?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/23212538/
我知道问题的标题听起来很奇怪,但我不知道该怎么调用它。 首先,我有一个网格布局,我希望我的 .search-wrapper 宽度为 50% 并向右浮动。在我的演示中 jsfiddle整个 .searc
我们正在使用 QA-C 来实现 MISRA C++ 一致性,但是该工具会为这样的代码喷出错误: float a = foo(); float b = bar(); float c = a - b; 据
考虑 float a[] = { 0.1, 0.2, 0.3}; 我很困惑a稍后传递给函数 foo(float* A) .不应该是 float* 类型的变量指向单个浮点数,对吗?就像这里提到的tu
这可能是我一段时间以来收到的最好的错误消息,我很好奇出了什么问题。 原代码 float currElbowAngle = LeftArm ? Elbow.transform.localRotation
刚开始学习 F#,我正在尝试为 e 生成和评估泰勒级数的前 10 项。我最初编写了这段代码来计算它: let fact n = function | 0 -> 1 | _ -> [1
我已经使用 Erlang 读取二进制文件中的 4 个字节(小端)。 在尝试将二进制转换为浮点时,我一直遇到以下错误: ** exception error: bad argument in
假设我有: float a = 3 // (gdb) p/f a = 3 float b = 299792458 // (gdb) p/f b = 29979244
我每次都想在浏览器顶部修复这个框。但是右边有一些问题我不知道如何解决所以我寻求帮助。 #StickyBar #RightSideOfStickyBar { float : right ; }
我正在研究 C# 编译器并试图理解数学运算规则。 我发现在两种不同的原始类型之间使用 == 运算符时会出现难以理解的行为。 int a = 1; float b = 1.0f; Cons
假设我有: float a = 3 // (gdb) p/f a = 3 float b = 299792458 // (gdb) p/f b = 29979244
Denormals众所周知,与正常情况相比,表现严重不佳,大约是 100 倍。这经常导致 unexpected软件 problems . 我很好奇,从 CPU 架构的角度来看,为什么非规范化必须是 那
我有一个由两个 float 组成的区间,并且需要生成 20 个随机数,看起来介于两个 float 定义的区间之间。 比方说: float a = 12.49953f float b = 39.1123
我正在构建如下矩阵: QMatrix4x3 floatPos4x3 = QMatrix4x3( floatPos0.at(0), floatPos1.at(0), floatPos2.at(0),
给定归一化的浮点数f,在f之前/之后的下一个归一化浮点数是多少。 通过微动,提取尾数和指数,我得到了: next_normalized(double&){ if mantissa is n
关于 CSS“float”属性的某些东西一直让我感到困惑。为什么将“float”属性应用到您希望 float 的元素之前的元素? 为了帮助可视化我的问题,我创建了以下 jsFiddle http://
关于 CSS“float”属性的某些东西一直让我感到困惑。为什么将“float”属性应用到您希望 float 的元素之前的元素? 为了帮助可视化我的问题,我创建了以下 jsFiddle http://
我有一个新闻源/聊天框。每个条目包含两个跨度:#user 和#message。我希望#user 向左浮动,而#message 向左浮动。如果#message 导致行超过容器宽度,#message 应该
我想创建一个“记分卡”网格来输出一些数据。如果每个 div.item 中的数据都具有相同的高度,那么在每个 div.item 上留下一个简单的 float 会提供一个漂亮的均匀布局,它可以根据浏览器大
我正在学习使用 CSS float 属性。我想了解此属性的特定效果。 考虑以下简单的 HTML 元素: div1 div2 This is a paragraph 以及以下 CSS 规则: div {
我正在尝试从可以是 int 或 float 的文件中提取数据。我发现这个正则表达式将从文件 (\d+(\.\d+)?) 中提取这两种类型,但我遇到的问题是它将 float 拆分为两个。 >>> imp
我是一名优秀的程序员,十分优秀!