gpt4 book ai didi

java - 为什么这个减法不等于零?

转载 作者:塔克拉玛干 更新时间:2023-11-03 03:58:56 24 4
gpt4 key购买 nike

我在我的 ColdFusion 代码中偶然发现了这些值,但 Google 计算器似乎有相同的“错误”,其中差异不为零。

416582.2850 - 411476.8100 - 5105.475 = -2.36468622461E-011

http://www.google.com/search?hl=en&rlz=1C1GGLS_enUS340US340&q=416582.2850+-+411476.8100+-+5105.475&aq=f&oq=&aqi=

JavaCast 将它们转换为 long/float/double 没有帮助 - 它会导致其他非零差异。

最佳答案

这是因为“看起来”以 10 为基数的十进制数字在以 2 为基数(计算机用来表示 float 的方式)中不能准确表示。请看文章What Every Computer Scientist Should Know About Floating-Point Arithmetic有关此问题和解决方法的详细说明。

关于java - 为什么这个减法不等于零?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/2002821/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com