gpt4 book ai didi

vim - 我怎样才能用数字解决这些问题?

转载 作者:行者123 更新时间:2023-12-02 22:44:01 25 4
gpt4 key购买 nike

我在 Vim 中仍然遇到数字问题:

体育

let a = 1.02 | let b = '10000000' | let total = a*b | echo total --> 1.02e7  

我想避免指数。我怎样才能得到输出 10200000 ?

let a = 4000000000 | let b = '1' | let total = a+b | echo total  --> -294967295 

为什么会给出错误的输出?

谢谢

最佳答案

:echo printf("%.0f", 4000000000.0 + 1.0)

注意事项:

  • 您正在使用 string->int 转换来进行算术运算,这通常不是一件好事。
  • int 是机器字大小的,所以大数字会溢出,尤其是在 32 位机器上。
  • float 格式通常使用 %g,如果你想控制精度使用 printf。
  • 如果您要处理大量数字,请使用 float ,但如果您期望精确度,那确实不会很好。

关于vim - 我怎样才能用数字解决这些问题?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/10330760/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com