gpt4 book ai didi

math - 32 位定点溢出

转载 作者:行者123 更新时间:2023-12-01 01:30:29 26 4
gpt4 key购买 nike

我正在 32 位 Windows PC 上进行一些“早期计算”,并查看限制。

现在,2**32 是 4,294,967,296,我发现

4294967290 + 5  

完全没问题,并且
    4294967290 + 6 

非常正确地溢出。

令我困惑的是
   429496729 * 10

溢出,尽管产品 4294967290 在范围内。

有人感兴趣吗?

最佳答案

如果没有任何代码,我猜 429496729被隐式输入为有符号整数,其中 4294967290太多了。

关于math - 32 位定点溢出,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/5168380/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com