gpt4 book ai didi

C# 数字错误让我抓狂

转载 作者:太空宇宙 更新时间:2023-11-03 17:14:03 26 4
gpt4 key购买 nike

这是我正在做的一些数学测试代码:

为什么 C# 对此有不同的处理方式?

Excel

分子 = =-0.161361101510599*10000000分母 = =(-1*(100-81.26)) * (10000000/100)

最佳答案

这很可能是由于数字在 Excel 和 C# 中的表示方式不同。在不同的平台或使用不同的软件上以高精度进行算术时,舍入误差/差异很常见。

编辑:这当然可能是因为一开始输入的数字不同。去我那里寻找复杂的答案吧!

程序员以忽视大局和忽视显而易见的事情而臭名昭著(好吧 - 我是......)就是一个很好的例子!

关于C# 数字错误让我抓狂,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/2245152/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com