gpt4 book ai didi

c# - c#中的奇怪减法

转载 作者:太空宇宙 更新时间:2023-11-03 17:08:28 24 4
gpt4 key购买 nike

我正在做一个 C# 程序..我必须做一个简单的数学运算。

72057594037927936.0 - 255.0 = .....

两个数都是double...我得到

72057594037927680.0 

代替

72057594037927681.0 

谁能解释一下这怎么可能?

谢谢

最佳答案

减法的确切结果,

72057594037927681 = 0xffffffffffff01

需要 56 位精度,但 double 只有 53,因此结果四舍五入到最接近的可表示数字。

关于c# - c#中的奇怪减法,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/17581784/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com