gpt4 book ai didi

c# - 小数点后 double

转载 作者:太空狗 更新时间:2023-10-29 21:35:06 25 4
gpt4 key购买 nike

在午休时间,我们开始讨论double 值类型的精度。

我的同事认为,它总是在小数点后有 15 位。

在我看来谁也说不准,因为 IEEE 754 不做假设关于这个,它取决于第一个 1 在二进制文件中的位置表示。 (即小数点前的数字大小也很重要)

如何才能做出更有资格的陈述?

最佳答案

C# reference 所述,精度是小数点前后的 15 到 16 位数字(取决于表示的十进制值)。

总之,你是对的,这取决于小数点前后的值

例如:

  • 12345678.1234567D//右边的下一个数字将向上取整
  • 1234567.12345678D//右边的下一个数字将向上取整

完整样本位于:http://ideone.com/eXvz3

此外,尝试将 double 值视为固定的十进制值也不是一个好主意。

关于c# - 小数点后 double ,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/12089817/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com