gpt4 book ai didi

java - 修改 double 中的最低有效位(Java 和 C++)

转载 作者:太空狗 更新时间:2023-10-29 20:46:40 26 4
gpt4 key购买 nike

如何在 Java 和 C++ 中将 double 的 N 个最低有效位设置为零?
在我的计算中,1699.3000000000002中的“...002”是数值错误造成的,所以我想消除它。

最佳答案

我猜你实际上是在进行货币计算。在这种情况下,使用像 double 这样的二进制数据类型可能是问题的根本原因。切换到小数类型,您应该能够避免此类问题。

关于java - 修改 double 中的最低有效位(Java 和 C++),我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/7610868/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com