gpt4 book ai didi

ruby to_f 错误或乘法运算符错误?

转载 作者:数据小太阳 更新时间:2023-10-29 08:28:51 24 4
gpt4 key购买 nike

您好,我刚刚遇到一个问题,即 ruby​​ 的 to_f 函数给我的结果不一致。

ruby-1.9.2-head :026 > 8.45.to_f * 100
=> 844.9999999999999

ruby-1.9.2-head :027 > 4.45.to_f * 100
=> 445.0


ruby-1.9.2-head :028 > 4.35.to_f * 100
=> 434.99999999999994

我的解决方法是简单地将结果四舍五入

ruby-1.9.2-head :029 > (4.35.to_f * 100).round
=> 435

经过更多尝试后,我意识到问题可能出在乘法运算符 * 100

最佳答案

欢迎来到浮点漂移。这是一个很好理解的问题,您应该读一读,这样您至少可以自己理解它。例如,查看以下文章:

关于ruby to_f 错误或乘法运算符错误?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/7879606/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com