- iOS/Objective-C 元类和类别
- objective-c - -1001 错误,当 NSURLSession 通过 httpproxy 和/etc/hosts
- java - 使用网络类获取 url 地址
- ios - 推送通知中不播放声音
假设我们声明了以下变量
float a = 1.2291;
float b = 3.99;
float
变量的精度为 6,这(如果我理解正确的话)意味着计算机实际存储的数字与您想要的实际数字之间的差异将小于 10 ^-6
这意味着 a
和 b
都有一些小于 10^-6
所以在计算机内部 a
实际上可能是 1.229100000012123
而 b
可能是 3.9900000191919
现在假设您有以下代码
float c = 0;
for(int i = 0; i < 1000; i++)
c += a + b;
我的问题是,
c
的最终结果是否也会有小于10^-6
的精度误差?
如果答案是否定的,我们如何才能真正知道这个精度误差,以及如果您应用任何类型的操作,按您希望的次数和以任何顺序到底会发生什么?
最佳答案
float variables have precision 6, which (if I understand correctly) means that the difference between the number that the computer actually stores and the actual number that you want will be less than 10^-6
that means that both a and b have some error that is less than 10^-6
10-6 数字是将任意常量表示为 float 时相对 精度的粗略度量。并非所有数字都将以 10-6 的绝对误差表示。例如,数字 8765432.1 可以近似地表示为单位。如果您至少有点幸运,当将其表示为 float
时,您会得到 8765432。另一方面,1E-15f
的绝对误差最多约为 10-21。
so inside the computer a could actually be 1.229100000012123 and b could be 3.9900000191919
不,抱歉,它的工作方式不是您写下整个数字并为可能的错误添加六个零。可以通过计算从前导 数字开始的六个零来估计错误,而不是从最后一个数字开始。在这里,您可能期望 1.22910012123 或 3.990000191919。
(实际上你会得到 1.2290999889373779296875 和 3.9900000095367431640625。不要忘记表示误差可以是负数也可以是正数,因为它是第一个数字。)
now let's say that you have the following code […]
my question is,
will
c
's final result have a precision error that is less than 10^-6 as well or not?
没有。总绝对误差将是 a
和 b
每次使用它们的所有表示误差的总和,加上您所做的 2000 次添加的误差.那是 4000 个不同的错误来源!它们中的许多将是相同的,其中一些将恰好相互补偿,但最终结果可能不会达到 10-6 的相对精度,更像是 10-5 相对准确度(在不计算的情况下完成的建议)。
关于c++ - 在 C++ 中进行数学运算时,浮点错误如何传播?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/25704731/
如果有人能解释这个注释的作用以及我们何时使用它: @Transactional(propagation=Propagation.REQUIRED) 谢谢 最佳答案 如果您需要在 Spring Docs
我有一个页面,它有一个 keydown 事件监听器,用于监听 Escape 键,以便返回。我还有一个简单的模态类,它也监听 Escape 键以关闭它。主页监听器检查模式是否打开,如果打开,则不执行任何
我想在模型中设置默认变量名称 T (=xx) - 将该模型拖到新模型中并在其中定义变量 xx。我收到错误消息:使用未声明的变量 xx。 这是子模型 model test parameter Rea
在 android 2.x 浏览器中查看此示例..它是在我的应用程序中复制场景的示例.. http://johnchacko.net/samples/tap.html 它是关于监听“tap”并从监听器
如您所见,我正在尝试将 GatewayConnectionFailedException 传播到我的 UI。我希望此代码捕获除异常之外的所有内容,我希望表示层捕获该异常以通知用户数据库是问题所在,以便
我目前正在尝试让可执行文件与它需要的所有依赖项正确链接。 这是依赖项的示例结构: exe -> libA -> libB exe和 libA有自己的存储库。 exe拉入libA像这样的东西: add_
有什么方法可以调用带有单个参数的 Scala 函数,给定一个数组 (类似于 JavaScript Spreads在 ECMAScript 6) 中? ys = [10.0, 2.72, -3.14]
我有一个小型静态库,它需要 boost 头文件,并且需要包含目录中的“include”目录。 ... add_library(alib STATIC ...) target_include_direc
我有一些 promise 可以返回对象。 现在我想将它们合并/扩展为一个新对象,因此我使用 Lodash's extend . var whenEverythingIsDone = Promise.a
这是我认为人们通常希望在 Scala 中做的事情,但如果我能在任何地方找到一个例子,我就该死了。 这段代码由于类型删除而无法编译,但它演示了我正在努力完成的事情: def parse[T](json:
这是我认为人们通常希望在 Scala 中做的事情,但如果我能在任何地方找到一个例子,我就该死了。 这段代码由于类型删除而无法编译,但它演示了我正在努力完成的事情: def parse[T](json:
我们有大量 MOSS 2007 站点需要添加大量的 javascript。我编辑、 checkin 、发布并批准了对 default.master 的更改,更改反射(reflect)在根网站上,但没有
请看一下下面的 fiddle :http://jsfiddle.net/K9NjY/ 我在这段代码上花了 3-4 个小时,并将其缩小到最短的版本,但现在我陷入了困境。 问题:1. 点击“divOne”
我读到如果在流程中抛出异常,框架要做的第一件事就是检查消息头中的错误 channel 属性。总是这样吗? 在我的特殊情况下,我将自定义错误 channel 分配给消息 header ,但该消息似乎已向
创建一个小的 C++ 大型精度类,一切似乎都运行良好,但是添加,如果我将 0xffffffff 和 0x04 加在一起,我会得到 0xffff0003,而我应该得到 0x0100000003。这是有问
我正在尝试重新创建 Dan Abramov 类(class)中的 Redux 示例。传播{...store.getState()}在应用程序级别不起作用,Redux 正在更改状态并且 React 不会
考虑一个需要很长时间的事务。在此期间,我想对 TableSmall 执行一些小更新。 ,它应该立即执行,并且主事务的回滚不应该回滚那些小的更新。 我当前的问题是这些小更新将锁定 TableSmall\
我需要对现有函数进行修改,具有一些 const 输入参数: int f(const owntype *r1, const owntype *r2) 为了做到这一点,我想调用一个使用相同类型但没有 co
我有一个带有 ViewModel 的 WPF UserControl: 这个 UserControl 有一个 De
我试图在收到这样的短信时不传播 public class SMSReceiver extends BroadcastReceiver { @Override public void onRec
我是一名优秀的程序员,十分优秀!