gpt4 book ai didi

c# - .NET Float Precision 似乎是 9 位数?

转载 作者:行者123 更新时间:2023-11-30 19:17:17 27 4
gpt4 key购买 nike

我正在将一个应用程序从 .NET 移植到 Mono 运行时,并且在代码中的某个位置我可以看到一个 float 具有值 158136.422。我对 float 的理解是它是 7 位精度,那么这个数字如何被接受?如我所料,Mono 将其修剪为 7 位数字。

如果在 C# 中,我会这样做

float f = 158136.422f;

四舍五入为 158136.4。

最佳答案

当你写这段代码时:

float f = 158136.422f;

分配给 f准确值是 158136.421875

在字符串表示中输出多少位是另一回事。

当我使用时:

float f = 158136.422f;
Console.WriteLine(f);
Console.WriteLine(f.ToString("r"));

我得到的结果是:

158136.4
158136.422

在 Mono 和 .NET 上。

关于c# - .NET Float Precision 似乎是 9 位数?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/18361239/

27 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com