- Java 双重比较
- java - 比较器与 Apache BeanComparator
- Objective-C 完成 block 导致额外的方法调用?
- database - RESTful URI 是否应该公开数据库主键?
核心问题是我有一系列需要记录的 double ,每个 double 都有不同数量的有效数字。这些数字在有多少有效数字方面差异很大。有些是 0(例如 5257),有些是 2(例如 1308.75),有些一直到 7(例如 124.1171875)。基本上是小数点后 0 到 7 位有效数字之间的所有内容。
标准 Double.toString() 在除具有 7 位有效数字之外的所有方面都表现出色。即一直到 6 位,有效数字全部打印,没有任何无意义的数字。但对于那些有 7 位有效数字的字符串,toString() 会四舍五入最后一位数字。即
5257 -> "5257"
1308.75 -> "1308.75"
124.1171875 -> "124.117188"
当然,我尝试使用 DecimalFormat("#.#######"),这解决了丢失有效数字的问题,但它为许多低精度 double 打印了无意义的数字。即
1308.75 -> "1308.7499998"
这也是 Not Acceptable ,因为 1) 它浪费了大量空间(通常每天记录 >2 GB 的数据)和 2) 它弄乱了使用日志的应用程序。
在识别有效数字方面,与 toString() 相比,DecimalFormat 似乎很糟糕,是否有办法修复它?我只想使用 toString() 样式处理有效数字,并将最大数字位数从 6 扩展到 7。
有什么想法吗?谢谢
最佳答案
如果您担心精确保留十进制值,您应该使用 BigDecimal
开始 - double
从根本上来说是不合适的,因为 binary 浮点类型。
碰巧,我无法在 DecimalFormat
中重现 1308.75 的行为,这并不让我感到惊讶,因为该值 可以完全表示为 双
。事实上,DecimalFormat
似乎无论如何都在应用一些启发式方法,即使 1308.76 也显示为 1308.76 - 这让我感到惊讶,因为实际值是 1308.759999999999990905052982270717620849609375。这确实意味着,如果您在代码中使用 1308.7599999999999,结果将是 1308.76,因为就 double
而言,它是完全相同的值。如果您需要区分这两个值,您绝对应该使用 BigDecimal
。
另请注意,1308.75 有 6 个有效数字 - 它有 2 个小数位。仔细区分这两个概念是值得的。
关于java - 使用具有更多数字的 Java Double.toString() 样式格式(DecimalFormat 不适用于低精度数字),我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/6869144/
我的 Linux Centos Apache 服务器的性能有问题。我有一个程序(用 c 语言编写)可以同时执行许多 http 请求。这个过程本身看起来非常有效,就好像我可以同时向外部服务器发出 500
我想知道如何将并行端口上的数据引脚设置为高电平和低电平。我相信我可以使用 PyParallel 来实现此目的,但我不确定如何设置特定的引脚。 谢谢! 最佳答案 您在这里谈论的是软件-硬件接口(inte
让我有一个像这样的日期时间索引的数据框: date_time open high low close vol 2018-05-13 18:00:00 70.
在 emacs Octave 模式下,当我输入 M-x run-octave 时,命令会卡住,所以我使用 C-g 进行转义。我可以用 C-x b 切换到 *Inferior Octave* 缓冲区,但
我正在 sklearn 中运行 gridsearchCV,尝试使用此代码找到最佳模型参数。 modelDNN= KerasRegressor(build_fn=build_DNN_model, epo
美好的一天。我想知道 android 存储是否低,它会影响应用程序性能吗?因为同一个应用程序在另一台设备上运行速度很快,而同样的应用程序在另一台设备上非常滞后,后者有 12GB 内存中的 2GB 可用
所以我在列卡上有一个带有索引的表 当我运行时 SELECT COUNT(DISTINCT(card)) FROM table 它返回 490 个不同的条目 但是当我运行的时候 SHOW INDEXES
我正在使用手动方法将二进制转换为十进制。此代码在最后一位为高的情况下工作正常,例如:1001。当最后一位为零 [低] 时会出现错误。例如:1010 应该给出 10 但给出 5,因为没有考虑最后一位。有
我一直在努力优化我的站点和数据库,并且我一直在使用 mysqltuner.pl 来帮助解决这个问题。除了表缓存命中率,无论我在 my.cnf 中将它提高多高,我几乎都得到了正确的结果,我仍然命中大约
深入研究 sprite kit (xcode 5)。我正在使用两个示例程序,1. 创建新项目时包含的默认宇宙飞船示例和 2. 我下载的 Adventure Game。 在 iOS 模拟器中运行这些示例
编辑: 感谢大家在这里提供答案,项目已完成。 https://github.com/0xyg3n/ProcessDaemon/ 如果有人想出可能会更好的多线程解决方案,我想。 我是 C# 的新手,我想
我有一个交换 Word 变量的字节(低/高)的过程(它与 System.Swap 函数执行相同的操作)。该过程在编译器优化关闭时有效,但在编译器优化打开时无效。有人可以帮我解决这个问题吗? proce
我以前听说过这些术语描述语言,例如 C 并不是一种低级语言,C++是中级语言,而Python是一种高级语言。我知道它必须与代码的编译方式以及代码的编写方式有关。但是我想知道的是,什么将语言定义为这三类
我有一个关于 NoSQL 类型数据库的问题,特别是 MongoDB,但它通常适用于大多数键值或基于文档的存储。 NoSQL 的一些卖点是速度和可扩展性,但在我看来,与关系数据库相比,开销很大。 你有很
如果没有此代码,fps 为 60-65。但是当我使用这段代码时,fps 下降到 50。 另一个问题是某些设备上的 FPS 太低。然而,游戏非常简单。我对所有形状使用 ShapeRenderer。游戏在
您好,我的名字是 Ryan,我目前正在开发自己的 2D java 游戏。目前游戏世界中有很多物体。游戏重新开始时,世界会加载 100 棵随机放置的树木,这些树木是使用数组列表和树类制作的。我的游戏使用
很难说出这里问的是什么。这个问题是含糊的、模糊的、不完整的、过于宽泛的或修辞性的,无法以目前的形式得到合理的回答。如需帮助澄清此问题以便重新打开它,visit the help center 。 已关
我刚刚将我的 Heroku postgres 数据库从 Kappa 计划(800MB RAM,postgres 9.1)升级到 Ronin 计划(1.7GB RAM,postgres 9.2),但性能
现在我正在使用我的 NSDictionary 并运行所有值的循环以找到低值、高值和计算平均值。 由于我是IOS 的新手,所以我想问问是否有更好的方法来做到这一点。有没有? 谢谢。 最佳答案 这个问题的
我目前正在使用 genuino 101 进行一个项目,我需要通过 i2c 读取大量数据,以填充任意大小的缓冲区。从下图中我可以看到读取请求本身只需要大约 3毫秒,写请求大约 200 纳秒。 但是在同一
我是一名优秀的程序员,十分优秀!