- iOS/Objective-C 元类和类别
- objective-c - -1001 错误,当 NSURLSession 通过 httpproxy 和/etc/hosts
- java - 使用网络类获取 url 地址
- ios - 推送通知中不播放声音
我一直在玩弄 float ,根据我过去对它们的了解,0.1 + 0.2
最终变成了类似 0.30000000000000004
并不让我吃惊。
然而, 让我感到惊讶的是,整数运算总是似乎 工作得很好并且没有任何这些工件。
我首先在 JavaScript(node.js 中的 Chrome V8)中注意到了这一点:
0.1 + 0.2 == 0.3 // false, NOT surprising
123456789012 + 18 == 123456789030 // true
22334455667788 + 998877665544 == 23333333333332 // true
1048576 / 1024 == 1024 // true
C++(Mac OS X 上的 gcc)似乎具有相同的属性。
最终结果似乎是整数——找不到更好的词了——有效。只有当我开始使用十进制数字时,事情才会变得不稳定。
这是设计的一个特征、一个数学产物,还是编译器和运行时环境所做的一些优化?
最佳答案
Is this is a feature of the design, an mathematical artifact, or some optimisation done by compilers and runtime environments?
这是实数的特征。现代代数的一个定理(现代代数,不是高中代数;数学专业的学生在完成基本微积分和线性代数类(class)后会学习现代代数)说对于一些正整数b,任何正实数r 可以表示为 r = a * bp,其中 a 是在 [1,b) 和 p 中是某个整数。例如,102410 = 1.02410*103。正是这个定理证明了我们使用科学计数法是合理的。
那个数字 a 可以分类为终结(例如 1.0)、重复(1/3=0.333...)或非重复(pi 的表示)。终端号码这里有一个小问题。任何终端号码也可以表示为重复号码。例如,0.999...和 1 是相同的数字。这种表示形式上的歧义可以通过指定可以表示为终端号的数字来表示来解决。
您所发现的是所有整数在任何基数中都具有终结表示这一事实的结果。
此处存在一个问题,即实数在计算机中的表示方式。正如 int
和 long long int
不代表所有整数一样,float
和 double
也不代表所有整数所有的实数。大多数计算机上用来表示实数 r 的方案是以 r = a*2p 的形式表示sup>,但尾数(或尾数)a 被 chop 为特定位数,指数 p 被限制为某个有限数。这意味着某些整数无法准确表示。例如,尽管 googol (10100) 是一个整数,但它的浮点表示并不精确。 googol 的基数 2 表示是一个 333 位数字。此 333 位尾数被 chop 为 52+1 位。
这样做的结果是 double 算术不再精确,即使对于大于 253 的整数也是如此。尝试使用 unsigned long long int
类型对 253 和 264 之间的值进行实验。您会发现 double 算法对于这些大整数不再精确。
关于javascript - 浮点表示似乎可以正确地进行整数运算——为什么?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/13064715/
这个问题已经有答案了: Invalid types 'double [100][double]' for array subscript (3 个回答) 已关闭 6 年前。 我已复制下面的整个代码并在
您有 2 个功能; f(x)= x(((x+1)^(1/2))-(x^(1/2))) g(x)= x/(((x+1)^(1/2))+(x^(1/2))) 哪个更准确? 旁注:如果你能解释为什么,
我正在从事一个关于java的研究项目,其中必须完成一些艰难的计算。然而,我已经完成了大部分工作,但停留在某个点上。我必须计算以下内容: (2.1-2.3) raised to power 0.3. 但
int main() { float x = 50; float y = 1/x; float result = y * x; float test = 41;
有没有安全的方法来可靠地确定整数类型 T可以存储浮点整数值 f (所以 f == floor(f) )没有任何溢出? 请记住,不能保证浮点类型 F与 IEC 559 (IEEE 754) 兼容,并且有
// value will always be in the range of [0.0 - maximum] float obtainRatio(float value, float maximum
就在今天,我遇到了我们正在使用的第三方软件,在他们的示例代码中,有以下内容: // Defined in somewhere.h static const double BAR = 3.14; //
是否有推荐的方法来清除 jQuery Flot 图表?我在 API 引用中找不到任何内容。 最佳答案 “清除”是指“破坏整个图表”还是只是清除数据? 要核对整个图表:$('#canvas_id').e
我正在学习单精度并想了解错误传播。根据this nice website ,加法是一个危险的操作。 所以我编写了一个小的 C 程序来测试错误累积的速度。我不完全确定这是否是一种有效的测试方法。如果是,
我正在尝试查询数据库,我需要获取权重等于 60.5 的客户列表。问题是 60.5 是一个实数,我以前从未在 where 子句中使用实数查询过数据库。 我已经尝试过这个: SELECT Name FRO
这是我的“ProjectEntity”类中的代码部分(我在其中使用 hibernate 进行 SQL 调用) @Column(name = "BUDGET") private float budget
我用 Haskell 编写了一个应用程序,它调用 Z3 求解器来解决一些复杂公式的约束。感谢 Haskell,我可以快速切换正在使用的数据类型。 当使用 SBV 的 AlgReal 类型进行计算时,我
在 C 中 double/float 有一个集合类型说明符:%f %F %g %G %e %E .有什么区别吗 %f和 %F , %g和 %G , %e和 %E ? 根据 printf和 scanf输
我正在开发一个适用于 Android 的可视化应用程序(包括运行 Android 2.2 的旧设备)。 我的应用程序的输入模型包含一个区域,该区域通常由数万个顶点组成。典型模型有 50000-1000
关闭。这个问题需要多问focused 。目前不接受答案。 想要改进此问题吗?更新问题,使其仅关注一个问题 editing this post . 已关闭 6 年前。 Improve this ques
我被要求编写一个程序来查找我大学中两个输入的总和,因此我应该首先检查输入是否有效。 例如,如果我输入 2534.11s35,程序应该检测到它不是该程序的有效输入,因为输入中存在 s。 最佳答案 to
我正在尝试降低 FPGA 的逻辑利用率,但在网上找不到任何好的 float fastpow。我所说的“好”是指充分减少所使用的逻辑。如果我使用双版本我几乎没有什么改进。如果我使用其他依赖日志的 flo
我有一个 128 字节的内存位置。我尝试用从 1...127 开始的数据填充内存。 我需要编写一个代码来获取两个参数,如偏移量、数据类型。根据参数,我需要将内存中的数据转换为提到的特定数据类型。 举个
我希望能够做到以下几点: float func() { if( error ) return InvalidFloatingPointValue; else return 0.0f;
假设我有两个 float ,我想比较它们。如果一个大于另一个,程序应该采用一个 fork。如果情况正好相反,它应该走另一条路。并且它应该做同样的事情,如果被比较的值在一个仍然应该使它比较真实的方向上被
我是一名优秀的程序员,十分优秀!