ios - 避免转换问题的 Objective C 中的 MAX/MIN 函数

Question

我的应用程序中的代码如下所示。我收到了一些关于错误的反馈，令我恐惧的是，我在上面放了一个调试器，发现 -5 和 0 之间的最大值是 -5!

NSString *test = @"short";
int calFailed = MAX(test.length - 10, 0);                      // returns -5

查看 MAX 宏后，我发现它要求两个参数的类型相同。在我的例子中，“test.length”是一个无符号整数，0 是一个有符号整数。因此，一个简单的转换(对于任一参数)就解决了这个问题。

NSString *test = @"short";
int calExpected = MAX((int)test.length - 10, 0);                    // returns 0

这似乎是这个宏令人讨厌的意外副作用。 iOS 是否有另一种内置方法用于执行 MIN/MAX，编译器会警告类型不匹配？看起来这应该 是一个编译时问题，而不是需要调试器才能解决的问题。我总是可以自己写，但想看看其他人是否有类似的问题。

Answer 1

启用 -Wsign-compare，正如 FDinoff 的回答所建议的那样是个好主意，但我认为可能值得更详细地解释其背后的原因，因为这是一个很常见的陷阱。

问题不在于 MAX 宏，而是 a) 以导致溢出的方式从无符号整数中减去 b)(如警告所示)了解编译器通常如何处理有符号值和无符号值的比较。

第一个问题很容易解释:当你从一个无符号整数中减去并且结果是负数时，结果“溢出”到一个非常大的正值，因为无符号整数不能表示负值。所以 [@"short"length] - 10 的计算结果为 4294967291。

可能更令人惊讶的是，即使没有减法，像 MAX([@"short"length], -10) 这样的东西也不会产生正确的结果(它的计算结果为 -10，即使 [@"short"length] 将是 5，这显然更大)。这与宏无关，像 if ([@"short"length] > -10) { ... } 会导致同样的问题(if block 中的代码不会执行)。

所以一般的问题是:当您将一个无符号整数与一个有符号整数进行比较时，究竟会发生什么(以及为什么首先会出现警告)？编译器会根据某些可能导致意外结果的规则将这两个值转换为通用类型。

引自Understand integer conversion rules [cert.org] :

• If the type of the operand with signed integer type can represent all of the values of the type of the operand with unsigned integer type, the operand with unsigned integer type is converted to the type of the operand with signed integer type.
• Otherwise, both operands are converted to the unsigned integer type corresponding to the type of the operand with signed integer type.

(强调我的)

考虑这个例子:

int s = -1;
unsigned int u = 1;
NSLog(@"%i", s < u);
// -> 0

结果将为 0(假)，即使 s(-1)明显小于 u(1)。发生这种情况是因为这两个值都被转换为 unsigned int，因为 int 不能表示可以包含在 unsigned int 中的所有值。

如果将 s 的类型更改为 long，它会变得更加困惑。然后，您会在 32 位平台 (iOS) 上得到相同(不正确)的结果，但在 64 位 Mac 应用程序中它会工作得很好! (说明:long 是一个 64 位的类型，所以它可以表示所有 32 位的 unsigned int 值。)

所以，长话短说:不要比较无符号整数和有符号整数，尤其是当有符号值可能为负时。