python - 是否有用于 Unicode 空白的 Python 常量？

Question

string 模块包含一个 whitespace 属性，该属性是一个字符串，由所有被视为空白的 ASCII 字符组成。是否有相应的常量也包含 Unicode 空格，例如 no-break space (U+00A0) ?我们可以从问题“strip() and strip(string.whitespace) give different results”中看到，至少 strip 知道额外的 Unicode 空白字符。

此问题被识别为与 In Python, how to list all characters matched by POSIX extended regex [:space:]? 重复，但该问题的答案确定了搜索空格字符以生成您自己的列表的方式。这是一个耗时的过程。我的问题是关于一个常量。

Answer 1

Is there a Python constant for Unicode whitespace?

简短回答:否。我个人在 Python 代码库中对这些字符(特别是数字代码点)进行了 grep，但不存在这样的常量。

以下部分解释了为什么不需要它，以及在没有此信息作为常量可用的情况下如何实现它。但是拥有这样一个常数也是一个非常糟糕的主意。

如果 Unicode 联盟添加了另一个语义空白字符/代码点，Python 的维护者将在继续支持语义不正确的代码或更改常量和可能破坏可能(不建议) 假设常数不变。

它如何添加这些字符代码点？ Unicode 中有 1,111,998 个可能的字符。但截至 version 8 仅占用 120,672 个.每个新版本的 Unicode 都可能添加额外的字符。其中一个新字符可能是一种空格。

信息存储在动态生成的 C 函数中

确定什么是unicode中的空白的代码是下面动态生成的code .

# Generate code for _PyUnicode_IsWhitespace()
print("/* Returns 1 for Unicode characters having the bidirectional", file=fp)
print(" * type 'WS', 'B' or 'S' or the category 'Zs', 0 otherwise.", file=fp)
print(" */", file=fp)
print('int _PyUnicode_IsWhitespace(const Py_UCS4 ch)', file=fp)
print('{', file=fp)
print('    switch (ch) {', file=fp)
for codepoint in sorted(spaces):
    print('    case 0x%04X:' % (codepoint,), file=fp)
print('        return 1;', file=fp)
print('    }', file=fp)
print('    return 0;', file=fp)
print('}', file=fp)
print(file=fp)

这是一个 switch 语句，它是一个常量代码块，但是这个信息不像字符串模块那样作为一个“常量”模块可用。相反，它隐藏在从 C 编译的函数中，不能从 Python 直接访问。

这可能是因为随着更多代码点被添加到 Unicode 中，出于向后兼容性的原因，我们将无法更改常量。

生成的代码

这是当前生成的代码at the tip :

int _PyUnicode_IsWhitespace(const Py_UCS4 ch)
{
    switch (ch) {
    case 0x0009:
    case 0x000A:
    case 0x000B:
    case 0x000C:
    case 0x000D:
    case 0x001C:
    case 0x001D:
    case 0x001E:
    case 0x001F:
    case 0x0020:
    case 0x0085:
    case 0x00A0:
    case 0x1680:
    case 0x2000:
    case 0x2001:
    case 0x2002:
    case 0x2003:
    case 0x2004:
    case 0x2005:
    case 0x2006:
    case 0x2007:
    case 0x2008:
    case 0x2009:
    case 0x200A:
    case 0x2028:
    case 0x2029:
    case 0x202F:
    case 0x205F:
    case 0x3000:
        return 1;
    }
    return 0;
}

制作自己的常量:

以下代码(来 self 的回答 here )在 Python 3 中生成一个全空格常量:

import re
import sys

s = ''.join(chr(c) for c in range(sys.maxunicode+1))
ws = ''.join(re.findall(r'\s', s))

作为一种优化，您可以将其存储在代码库中，而不是在每个新进程中自动生成它，但我会告诫不要假设它永远不会改变。

>>> ws
'\t\n\x0b\x0c\r\x1c\x1d\x1e\x1f \x85\xa0\u1680\u2000\u2001\u2002\u2003\u2004\u2005\u2006\u2007\u2008\u2009\u200a\u2028\u2029\u202f\u205f\u3000'

(链接的问题的其他答案显示如何为 Python 2 获取该问题。)

请记住，在某一时刻，有些人可能认为 256 个字符编码就是我们所需要的全部。

>>> import string
>>> string.whitespace
' \t\n\r\x0b\x0c'

如果您坚持在代码库中保留常量，只需为您的 Python 版本生成常量，并将其存储为文字:

unicode_whitespace = u'\t\n\x0b\x0c\r\x1c\x1d\x1e\x1f \x85\xa0\u1680\u2000\u2001\u2002\u2003\u2004\u2005\u2006\u2007\u2008\u2009\u200a\u2028\u2029\u202f\u205f\u3000'

u 前缀使其在 Python 2 中成为 unicode(2.7 恰好也将上面的整个字符串识别为空格)，而在 Python 3 中它被忽略，因为默认情况下字符串文字是 unicode。