一文学习python中编码和解码

一文学习python中编码和解码学习目录 1 什么是编码和解码 2 编解码基本原理 3 python 的默认编码 4 什么是 10 进制 2 进制 8 进制 16 进制 5 python 的字符串编解码 5 1 使用 str encode 编码 str decode 解码 5 2 解码的乱

大家好,欢迎来到IT知识分享网。

学习目录

1 什么是编码和解码

2 编解码基本原理

3 python的默认编码

4 什么是10进制/2进制/8进制/16进制?

5 python的字符串编解码

5.1 使用str.encode()编码 ,str.decode()解码

5.2 解码的乱码问题

5.3 16进制字符串转为普通字符串

6 python字符串和unicode类型编码转换

一文学习python中编码和解码

什么是编码和解码

大家都知道计算机是二进制的世界,计算机系统只能识别数字0和1组成的一串串的数字。1位数字代表1个比特(bit),每8个比特代表1个字节(byte),那么1个字节如果都为数字1,如,代表的最大数字是255。

一文学习python中编码和解码

如果是2 个字节最大可以表示为 65535,4 个字节最大表示为。

每一种不同的数字0和1的组合,就可以代表一个字符。基于上述原理出现了各种编码格式:

  • ASCII 编码

最开始是美国人发明的编码 ASCII ,只能表示 256 个字符,仅支持英文字母,数字和少部分符号。

  • GBK 编码

中国文字博大精深,汉字特别多,其他编码格式并不能满足要求,所以才有了适合中文编解码的 GB2312。编码(后来升级到了 GBK 编码),可以容纳将近7000个汉字。

  • Unicode

世界上除了英文/中文等还有各个国家的文字语言,每个国家的编码不统一会带来很多编解码的困难,后来Unicode 字符集就出现了,它将所有的语言都容纳在一起,后续为了在存储和传输数据时节省空间,出现了目前常用的UTF8编码。

编解码基本原理

平常工作中,我们通过键盘输入英文字符或者中文字符或者一些逗号等符号,程序通过编码将字符转为计算机识别的2进制字节流,当计算机处理完成后再通过解码转为我们能识别的字符。

一文学习python中编码和解码

python的默认编码

安装完python3版本的程序后,我们通过sys库,检查下默认的编码。

import sys print(sys.getdefaultencoding()) 结果: utf-8

因为utf-8本来就支持中文,所以我们可直接在python3版本上定义中文变量并直接使用,而不会出现乱码问题。

什么是10进制/2进制/8进制/16进制?

10进制

通常我们说的数字,比如数字10 100 200等,没有前缀表示

2进制

由数字0和1组成,以0b或者0B前缀开头,比如0b1010,换算为十进制表示数字10

8进制

由数字0到7组成,每3位2进制数字组成一个8进制数,比如3位111表式数字7,所以最大数字为7,而000就表示为0。

以0O或者0o前缀开头,比如0o12,换算为十进制表示数字10

16进制

由数字0到9,字母a,b,c,d,e,f共16位组成,字母a到f代表的是数字10到15;相当于每4位2进制数字组成一个16进制数,比如4位1111表式数字15,用f表示,而0000就表示为0。

以0x或者0X开头,比如0xa,换算为十进制表示数字10

python中可通过bin(),oct(),hex()函数依次将十进制数转换为2进制,8进制,16进制。

#定义数字10 dig1 = 10 #转为2进制 bin_dig1 = bin(dig1) print(f'十进制 数字10 转为2进制为:{bin_dig1}') #转为8进制 oct_dig1 = oct(dig1) print(f'十进制 数字10 转为8进制为:{oct_dig1}') #转为16进制 hex_dig1 = hex(dig1) print(f'十进制 数字10 转为16进制为:{hex_dig1}') 结果: 十进制 数字10 转为2进制为:0b1010 十进制 数字10 转为8进制为:0o12 十进制 数字10 转为16进制为:0xa

同理2进制,8进制和16进制可通过int()函数转为10进制。

print(f'2进制 数字10 转为10进制为:{int(bin_dig1,base=2)}') print(f'8进制 数字10 转为10进制为:{int(oct_dig1,base=8)}') print(f'16进制 数字10 转为10进制为:{int(hex_dig1,base=16)}') 结果: 2进制 数字10 转为10进制为:10 8进制 数字10 转为10进制为:10 16进制 数字10 转为10进制为:10

python的字符串编解码

  • 使用str.encode()编码 ,str.decode()解码
userinfo = '章三'

以 encoding 指定的编码格式编码 string

userinfo_byte = userinfo.encode(encoding='utf-8') print(userinfo_byte) b'\xe7\xab\xa0\xe4\xb8\x89'

编码后字符串类型为bytes,输出的是16进制的字节码,而且1个中文字占了3个字节

print(type(userinfo_byte)) <class 'bytes'>

通过decode函数解码字节码为字符串。

print(userinfo_byte.decode()) 章三
  • 解码的乱码问题

如果编码和解码使用的编码不一样,解码后会出现乱码。 比如下面的示例将中文通过utf-8编码,然后通过gbk解码

使用bytes()函数定义编码格式为utf-8的字节码,解码使用gbk编码

zhongwen = bytes('章三',encoding='utf-8') print(zhongwen.decode(encoding='gbk'))

打印结果时出现乱码:

绔犱笁

所以我们在平时使用时一般都是统一编码格式,目前使用的都是默认编码utf-8。

  • 16进制字符串解码为普通字符串

以上中文“章三”编码输出的16进制为b‘\xe7\xab\xa0\xe4\xb8\x89’可通过str.decode().hex()函数转为16进制字符串:“e7aba0e4b889”

然后使用codecs.decode() 或者bytes.fromhex()或者binascii.unhexlify()方法将16进制的字符串解码为普通字符串。

  • codecs.decode()
import codecs hex_str = "e7aba0e4b889" str_result = codecs.decode(hex_str, "hex").decode("utf-8") print(str_result)
  • binascii.unhexlify()
import binascii byte_str = binascii.unhexlify(hex_str) str_result = byte_str.decode("utf-8") print(str_result)
  • bytes.fromhex()
byte_str = bytes.fromhex(hex_str) str_result = byte_str.decode("utf-8") print(str_result)
一文学习python中编码和解码

python字符串和unicode类型编码转换

char = "章三" char.encode(encoding='unicode_escape')

通过unicode_escape编码为unicode类型,结果如下:

b'\\u7ae0\\u4e09'

unicode字节码以\\u的前缀表示,unicode编码中每个中文占2个字节(跟utf8编码不同,utf8编码占用3个字节),7ae0和4e09表示的是16进制,16进制转为10进制数分别是31456,19977

print(f'16进制 7ae0 转为10进制为:{int("7ae0",base=16)}') print(f'16进制 4e09 转为10进制为:{int("4e09",base=16)}') 结果: 16进制 7ae0 转为10进制为:31456 16进制 4e09 转为10进制为:19977
  • 通过chr函数可以解析出某数字对应的unicode字符
print(f'16进制 7ae0 转为10进制 通过chr函数获取对应数字的字符:{chr(int("7ae0",base=16))}') print(f'16进制 4e09 转为10进制 通过chr函数获取对应数字的字符:{chr(int("4e09",base=16))}')

结果: 可以反推出我们字符串定义的“章三”两个汉字。

16进制 7ae0 转为10进制 通过chr函数获取对应数字的字符:章 16进制 4e09 转为10进制 通过chr函数获取对应数字的字符:三
  • 通过ord()函数可以直接得出unicode字符对应的编码中的数字
 print(f'汉字 章 对应的unicode编码中的数字是 {ord("章")}') print(f'汉字 三 对应的unicode编码中的数字是 {ord("三")}') 结果: 汉字 章 对应的unicode编码中的数字是 31456 汉字 三 对应的unicode编码中的数字是 19977
一文学习python中编码和解码

共勉: 东汉·班固《汉书·枚乘传》:“泰山之管穿石,单极之绠断干。水非石之钻,索非木之锯,渐靡使之然也。”

—–指水滴不断地滴,可以滴穿石头;

—–比喻坚持不懈,集细微的力量也能成就难能的功劳。

—-感谢读者的阅读和学习,谢谢大家。

免责声明:本站所有文章内容,图片,视频等均是来源于用户投稿和互联网及文摘转载整编而成,不代表本站观点,不承担相关法律责任。其著作权各归其原作者或其出版社所有。如发现本站有涉嫌抄袭侵权/违法违规的内容,侵犯到您的权益,请在线联系站长,一经查实,本站将立刻删除。 本文来自网络,若有侵权,请联系删除,如若转载,请注明出处:https://yundeesoft.com/163167.html

(0)
上一篇 2024-12-18 08:45
下一篇 2024-12-18 09:00

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注微信