gpt4 book ai didi

java - 在 Java 中模拟 Excel 微积分行为以进行测试

转载 作者:行者123 更新时间:2023-12-02 11:36:04 25 4
gpt4 key购买 nike

我正在 Java 中实现一个用 Excel 公式编写的算法,基于马尔可夫链,并将结果与​​ Jxl 库进行比较。正如我所读到的,问题是这两种语言的精度不同。事实上,它们仅返回小数点后第二位的相同结果。有没有一种方法可以在Java中“模拟”Excel精度,以测试算法的行为是否完全相同?

最佳答案

您可以在此处找到 Excel 精度如何工作的分析:

https://community.oracle.com/thread/2053255?start=15&tstart=0

处理时似乎第 16 位小数被向下舍入。

请参阅此问题以了解模拟浮点精度的方法:

Matching Excel's floating point in Java

我认为这一切加在一起意味着在内部,即在单个单元格的公式内,Excel 使用普通 double 。但设置单元格的值时,小数点后16位会向下舍入。这意味着对于您的算法来说,只要有中间结果写入单元格,您就需要使用链接答案中的舍入方法。对此进行测试,对我来说,不清楚这些中间值是否需要四舍五入。

关于java - 在 Java 中模拟 Excel 微积分行为以进行测试,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/48922275/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com