个人中心
文章发布
退出
作者热门文章
- android - 多次调用 OnPrimaryClipChangedListener
- android - 无法更新 RecyclerView 中的 TextView 字段
- android.database.CursorIndexOutOfBoundsException : Index 0 requested, 光标大小为 0
- android - 使用 AppCompat 时，我们是否需要明确指定其 UI 组件(Spinner、EditText)颜色
25
4
我有 2 个数字存储为 Double，1.4300 和 1.4350。当我减去 1.4350 - 1.4300 时，得到的结果是:0.0050000000000001155。为什么它在末尾添加 1155？如何解决这个问题，使其返回 0.005 或 0.0050？我不确定四舍五入是否有效，因为我正在处理 2 位和 4 位小数。
最佳答案
哦，我喜欢这些......这些是由 double 表示的不准确性引起的，而浮点运算充满了这些。它通常是由二进制中重复出现的数字(即以 2 为基数的浮点表示形式)引起的。例如，十进制中的 1/3 = 0.3333' 在二进制中 1/10 是一个循环数，这意味着它无法完美表示。试试这个:1 - 0.1 - 0.1 - 0.1 - 0.1。你不会得到 0.6 :-)
要解决这个问题，请使用 BigDecimal(首选)或通过首先将其乘以 10000 之类的值，然后四舍五入，然后再次除以操作 double (不太干净)。
好问题......它在过去引起了巨大的问题。导弹越过目标、卫星发射后坠毁等等。在网上搜索一些，你会大吃一惊!
关于java - 双重计算产生奇数结果，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/23642553/
25
4
0
我在 Chrome 上做了一些测试，requestAnimationFrame 产生了 61 fps 而 setTimeOut( callback, 0 ) 产生了 233 fps。 如果一个人想要超
当我调试代码时，我发现 GCC 和 Clang 都为 0.0/0.0 产生 nan，这是我所期望的，但 GCC 产生的 nan 将符号位设置为 1，而Clang 将其设置为 0(如果我没记错的话，与
Closed. This question does not meet Stack Overflow guidelines。它当前不接受答案。 想改善这个问题吗？更新问题，以便将其作为on-topic
我在 R Studio 中有一个时间序列。现在我想计算这个系列的log()。我尝试了以下方法: i <- (x-y) ii <- log(i) 但是我得到以下信息:Warning message: I
我有兴趣了解 JavaScript 的内部结构.我试图阅读 SpiderMonkey 的来源和 Rhino但是绕过我的头是相当复杂的。 我问的原因是:为什么像 (![]+[])[+!![]+[]] 生
我们在 Delphi 中使用标准 TWebbrowser 组件，该组件在内部使用 mshtml.dll。另外，我们使用注册表来确保页面使用新的渲染引擎( Web-Browser-Control-Spe
我必须实现一个序列化/反序列化类，并且我正在使用 System.Xml.Serialization 。我有一些IList类型属性并希望在 IList 中序列化解码属于具有特定区域性信息的列表的所有十进
我有一个 Java 应用程序，它读取包含 SQL 查询的 JSON 文件，并使用 JDBC 在数据库上触发它们。 现在我有 5 万个这样的文件，我需要生成 5 万个独立线程来读取每个文件并将它们上传到
我正在尝试将 TensorFlow 入门页面上的示例线性回归程序调整为二次回归。为此，我只是添加了另一个变量并更改了函数。然而，这似乎会导致 NaN 值。这是我的代码: import numpy as
申请后KernelPCA到我的数据并将其传递给分类器 ( SVC ) 我收到以下错误: ValueError: Input contains NaN, infinity or a value too
这背后的想法是，如果我的数据库中存在登录名(正确的用户名+密码)，我将重定向到一个页面，并且在进行此身份验证后，他们可以将消息存储在文本文件中。代码非常简单尽管我不确定为什么会收到 IllegalSt
我有一个返回 log10 值的函数。在将它们转换为正常数字时，出现溢出错误。 OverflowError: (34, 'Numerical result out of range') 我检查了日志值，
nosetests 抛出一个 ImportError，尽管我认为这是一个正确配置的 virtualenv。 ==============================================
我是这个网站的新手，所以如果我做错了什么，我提前道歉。当我尝试使用 kivy-garden 的 ScrollLabel 时，它给了我一个错误。基本上我正在尝试创建一个控制台日志，并且我需要能够在文本框
任何人都对 MDSJ 有任何经验？以下输入仅产生 NaN 结果，我不明白为什么。文档非常稀少。 import mdsj.Data; import mdsj.MDSJ; public class MDS
我有一个非常简单的 scala jcuda 程序，它添加了一个非常大的数组。一切都编译和运行得很好，直到我想从我的设备复制超过 4 个字节到主机。当我尝试复制超过 4 个字节时，我收到 CUDA_ER
我正在使用 Hero 组件在两个页面之间创建动画。Hero 组件用于包装一个 Image 小部件(没问题)和一个 Container 小部件(有问题)。 抛出以下溢出错误: ══╡ EXCEPTIO
我无法理解页面 https://developer.mozilla.org/en/JavaScript/Reference/Operators/Special/void 中的这一段: This ope
当在 Angular 中使用不立即触发事件的异步管道时(http 请求或任何有延迟的可观察对象)，第一个值为 null为什么会这样？如何避免这种情况？ 第一个变化: SimpleChange {
如果一个导入的库生成了一个会 panic 的 goroutine 怎么办？在这种情况下，开发人员无法阻止程序退出。 就像在这段代码中一样，使用延迟恢复调用一个错误的库没有帮助，因为该库正在生成一个 p
我是一名优秀的程序员,十分优秀！