gpt4 book ai didi

c++ - Visual Studio 2010 SP1 中的 64 位整数初始化错误

转载 作者:太空宇宙 更新时间:2023-11-04 06:05:03 25 4
gpt4 key购买 nike

我有一个奇怪的错误/错误/ self 愚蠢问题。我正在用 C 语言开发一个小型应用程序,并且使用的是 Visual Studio 2010 SP1。违规代码:

uint64_t sum_squared_X = 65535*65535*64;
int64_t sum_squared_Y = 65535*65535*64;

调试时,我得到这些结果:

sum_squared_X = 18446744073701163072;
sum_squared_Y = -8388544;

问题是,为什么? uint64_t 的最大值为 2^64-1 或 18446744073709551615,int64_t 的最大值为 2^63-1 或 9223372036854775807。

65535*65535*64 = 274869518400,低于两个最大值。那我为什么会得到这些结果?

我在这里完全迷路了,我们将不胜感激。

最佳答案

简短回答:使用 32 位带符号算术将 65535 乘以 65535,得到 -131,071。然后将其乘以 -64 并转换为 uint64_t(由于换行而创建更大的正值)或 int64_t(保留 -131,071 乘以 64 的结果)。

长答案:

无后缀整数十进制常量的类型取决于它的值。它是这个列表中第一个可以表示其值的:int、long int、long long int。 (添加后缀或使用八进制或十六进制常量会更改列表。)因为这些类型取决于 C 实现,所以行为取决于 C 实现。

在您的机器中,int 很可能是 32 位。因此,“65535”的类型是int,“64”的类型也是int。

您的表达式以“65535*65535”开头。这将 65,535 乘以 65,535。数学结果是 4,924,836,225(十六进制,0xfffe0001)。对于 32 位有符号整数,这会溢出可表示的值。这是 C 标准中的未定义行为。许多实现中经常发生的情况是值从 231-1(最高可表示值)到 -231(最低可表示值)“环绕”。相同行为的另一种观点是,数学结果的位 0xfffe0001 被解释为 32 位带符号整数的编码。在二进制补码中,0xfffffe0001 为 -131,071。

然后你的表达式乘以 64。-131,071*64 不会溢出;结果是 -8,388,544(编码为 0xff800040)。

最后,您使用结果来初始化 uint64_t 或 int64_t 对象。此初始化会导致转换为目标类型。

int64_t 转换很简单;转换的输入是 -8,388,544,这在 int64_t 中可以精确表示,因此结果是 -8,388,544,编译器可能只是通过扩展符号位(生成编码 0xffffffffff800040)来实现。

uint64_t转换比较麻烦,因为-8,388,544不能用uint64_t表示。根据 1999 C 标准 6.3.1.3 2,“值通过比新类型可以表示的最大值重复加减 1 直到值在新类型的范围内”来转换。对于 uint64_t,“比新类型可以表示的最大值多一个”是 264。所以结果是 -8,388,544 + 264,即 18,446,744,073,701,163,072。这也有编码 0xffffffffff800040。

对于从较窄的宽度到较宽的宽度的转换,这种比最大值加1的操作相当于将旧类型的符号位复制到新类型中的所有高位(符号扩展)。对于从较宽的宽度转换为较窄的宽度,相当于丢弃高位。无论哪种情况,结果都是对 2n 取模的余数,其中 n 是新类型中的位数。

关于c++ - Visual Studio 2010 SP1 中的 64 位整数初始化错误,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/11883001/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com