gpt4 book ai didi

java - float 不是减法后的预期数字

转载 作者:塔克拉玛干 更新时间:2023-11-02 08:20:21 25 4
gpt4 key购买 nike

我有以下声明:

float diff = tempVal - m_constraint.getMinVal();

tempVal 声明为 float ,getMinVal() 返回浮点值。

我有以下打印输出:

diff=0.099999905,tempVal=5.1,m_constraint.getMinVal()=5.0

我希望diff0.1 但不是上面的数字。怎么做?

最佳答案

float 使用 IEEE754 来表示数字,该系统存在一些舍入误差。

Floating point guide

What Every Computer Scientist Should Know About Floating-Point Arithmetic

Wikipedia on IEE754

底线如果你正在做算术并且它需要精确不要使用 floatdouble 但我们 BigDecimal

关于java - float 不是减法后的预期数字,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/13263650/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com