gpt4 book ai didi

Python3如何解决字符编码问题详解

转载 作者:qq735679552 更新时间:2022-09-27 22:32:09 25 4
gpt4 key购买 nike

CFSDN坚持开源创造价值,我们致力于搭建一个资源共享平台,让每一个IT人在这里找到属于你的精彩世界.

这篇CFSDN的博客文章Python3如何解决字符编码问题详解由作者收集整理,如果你对这篇文章有兴趣,记得点赞哟.

编码 。

因为计算机只能处理数字,如果要处理文本,就必须先把文本转换为数字才能处理。最早的计算机在设计时采用8个比特(bit)作为一个字节(byte),所以,一个字节能表示的最大的整数就是255(二进制11111111=十进制255),如果要表示更大的整数,就必须用更多的字节。比如两个字节可以表示的最大整数是65535,4个字节可以表示的最大整数是4294967295.

由于计算机是美国人发明的,因此,最早只有127个字母被编码到计算机里,也就是大小写英文字母、数字和一些符号,这个编码表被称为ASCII编码,比如大写字母A的编码是65,小写字母z的编码是122.

Python3字符编码 。

Python3 最重要的一项改进之一就是解决了 Python2 中字符串与字符编码遗留下来的这个大坑.

Python2 字符串设计上的一些缺陷:

  • 使用 ASCII 码作为默认编码方式,对中文处理很不友好。
  • 把字符串的牵强地分为 unicode 和 str 两种类型,误导开发者

当然这并不算 Bug,只要处理的时候多留心也可以避免这些坑。但在 Python3 两个问题都很好的解决了.

首先,Python3 把系统默认编码设置为 UTF-8 。

?
1
2
3
4
>>> import sys
>>> sys.getdefaultencoding()
'utf-8'
>>>

然后,文本字符和二进制数据区分得更清晰,分别用 str 和 bytes 表示。文本字符全部用 str 类型表示,str 能表示 Unicode 字符集中所有字符,而二进制字节数据用一种全新的数据类型,用 bytes 来表示.

str 。

?
1
2
3
4
5
6
7
8
9
10
11
>>> a = "a"
>>> a
'a'
>>> type (a)
< class 'str' >
 
>>> b = "禅"
>>> b
'禅'
>>> type (b)
< class 'str' >

bytes 。

Python3 中,在字符引号前加‘b',明确表示这是一个 bytes 类型的对象,实际上它就是一组二进制字节序列组成的数据,bytes 类型可以是 ASCII范围内的字符和其它十六进制形式的字符数据,但不能用中文等非ASCII字符表示.

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
>>> c = b 'a'
>>> c
b 'a'
>>> type (c)
< class 'bytes' >
 
>>> d = b '\xe7\xa6\x85'
>>> d
b '\xe7\xa6\x85'
>>> type (d)
< class 'bytes' >
>>>
 
>>> e = b '禅'
  File "<stdin>" , line 1
SyntaxError: bytes can only contain ASCII literal characters.

bytes 类型提供的操作和 str 一样,支持分片、索引、基本数值运算等操作。但是 str 与 bytes 类型的数据不能执行 + 操作,尽管在py2中是可行的.

?
1
2
3
4
5
6
7
8
9
10
11
12
13
>>> b "a" + b "c"
b 'ac'
>>> b "a" * 2
b 'aa'
>>> b "abcdef\xd6" [ 1 :]
b 'bcdef\xd6'
>>> b "abcdef\xd6" [ - 1 ]
214
 
>>> b "a" + "b"
Traceback (most recent call last):
  File "<stdin>" , line 1 , in <module>
TypeError: can't concat bytes to str

python2 与 python3 字节与字符的对应关系 。

python2 python3 表现 转换 作用
str bytes 字节 encode 存储
unicode str 字符 decode 显示

encode 与 decode 。

str 与 bytes 之间的转换可以用 encode 和从decode 方法.

Python3如何解决字符编码问题详解

encode 负责字符到字节的编码转换。默认使用 UTF-8 编码准换.

?
1
2
3
4
5
>>> s = "Python之禅"
>>> s.encode()
b 'Python\xe4\xb9\x8b\xe7\xa6\x85'
>>> s.encode( "gbk" )
b 'Python\xd6\xae\xec\xf8'

decode 负责字节到字符的解码转换,通用使用 UTF-8 编码格式进行转换.

?
1
2
3
4
>>> b 'Python\xe4\xb9\x8b\xe7\xa6\x85' .decode()
'Python之禅'
>>> b 'Python\xd6\xae\xec\xf8' .decode( "gbk" )
'Python之禅'

总结 。

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流.

原文链接:https://foofish.net/how-python3-handle-charset-encoding.html 。

最后此篇关于Python3如何解决字符编码问题详解的文章就讲到这里了,如果你想了解更多关于Python3如何解决字符编码问题详解的内容请搜索CFSDN的文章或继续浏览相关文章,希望大家以后支持我的博客! 。

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com