gpt4 book ai didi

c# - double.parse 返回精度差异

转载 作者:太空宇宙 更新时间:2023-11-03 18:43:58 33 4
gpt4 key购买 nike

为什么 double.parse ("1833.35") 返回值 1833.349999999999

最佳答案

这是因为 float 在机器中是用二进制指数表示的,而 10 不是 2 的偶次方。因此,一些以 10 为底的分数在转换时会变成循环分数。

为了说明,只需计算出如何用二进制表示 35/100。

关于c# - double.parse 返回精度差异,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/6190120/

33 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com