gpt4 book ai didi

c# - double minus double 给出精度问题

转载 作者:太空狗 更新时间:2023-10-29 18:17:12 27 4
gpt4 key购买 nike

我在 .NET 中遇到了 double 的精度问题,我认为这只适用于 float ,但现在我发现 double 是一个 float 。

double test = 278.97 - 90.46;
Debug.WriteLine(test) //188.51000000000005

//correct answer is 188.51

处理这个问题的正确方法是什么?圆形的?去掉不需要的小数位?

最佳答案

使用 decimal数据类型。 “Decimal 值类型适用于需要大量有效整数和小数并且没有舍入误差的财务计算。”

关于c# - double minus double 给出精度问题,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/2741903/

27 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com