Python 3最重要的新特性之一是对字符串和二进制数据流作了明确的区分。文本老是Unicode
,由str
类型表示,二进制数据则由bytes
类型表示。Python 3不会以任意隐式的方式混用str
和bytes
,你不能拼接字符串和字节流,也没法在字节流里搜索字符串(反之亦然),也不能将字符串传入参数为字节流的函数(反之亦然)。python
下面让咱们深刻分析一下两者的区别和联系。程序员
在谈bytes
和str
以前,须要先说说关于编码是如何发展的。。ide
在计算机历史的早期,美国为表明的英语系国家主导了整个计算机行业,26个英文字母组成了多样的英语单词、语句、文章。所以,最先的字符编码规范是ASCII码,一种8位即1个字节的编码规范,它能够涵盖整个英语系的编码须要。函数
编码是什么?编码就是把一个字符用一个二进制来表示。咱们都知道,全部的东西,不论是英文、中文仍是符号等等,最终存储在磁盘上都是01010101这类东西。在计算机内部,读取和存储数据归根结底,处理的都是0和1组成的比特流。问题来了,人类看不懂这些比特流,如何让这些010101对人类变得可读呢?因而出现了字符编码,它是个翻译机,在计算机内部某个地方,透明的帮咱们将比特流翻译成人类能够直接理解的文字。对于通常用户,不须要知道这个过程是什么原理,是怎么执行的。可是对于程序员倒是个必须搞清楚的问题。编码
以ASCII
编码为例,它规定1个字节8个比特位表明1个字符的编码,也就是“00000000”这么宽,一个一个字节的解读。例如:01000001表示大写字母A,有时咱们会“偷懒"的用65这个十进制来表示A在ASCII
中的编码。8个比特位,能够没有重复的最多表示2的8次方(255)个字符。翻译
后来,计算机获得普及,中文、日文、韩文等等国家的文字须要在计算机内表示,ASCII的255位远远不够,因而标准组织制定出了叫作UNICODE的万国码,它规定任何一个字符(无论哪国的)至少以2个字节表示,能够更多。其中,英文字母就是用2个字节,而汉字是3个字节。这个编码虽然很好,知足了全部人的要求,可是它不兼容ASCII
,同时还占用较多的空间和内存。由于,在计算机世界更多的字符是英文字母,明明能够1个字节就可以表示,非要用2个。code
因而UTF-8
编码应运而生,它规定英文字母系列用1个字节表示,汉字用3个字节表示等等。所以,它兼容ASCII
,能够解码早期的文档。UTF-8
很快就获得了普遍的应用。内存
在编码的发展历程中,我国还创造了本身的编码方式,例如GBK
,GB2312
,BIG5
。他们只局限于在国内使用,不被国外承认。在GBK
编码中,中文汉字占2个字节。utf-8
回到bytes
和str
的身上。bytes
是一种比特流,它的存在形式是01010001110这种。咱们不管是在写代码,仍是阅读文章的过程当中,确定不会有人直接阅读这种比特流,它必须有一个编码方式,使得它变成有意义的比特流,而不是一堆晦涩难懂的01组合。由于编码方式的不一样,对这个比特流的解读也会不一样,对实际使用形成了很大的困扰。下面让咱们看看Python是如何处理这一系列编码问题的:文档
>>> s = "中文" >>> s '中文' >>> type(s) <class 'str'> >>> b = bytes(s, encoding='utf-8') >>> b b'\xe4\xb8\xad\xe6\x96\x87' >>> type(b) <class 'bytes'>
从例子能够看出,s
是个字符串类型。Python有个内置函数bytes()
能够将字符串str
类型转换成bytes
类型,b
其实是一串01的组合,但为了在ide环境中让咱们相对直观的观察,它被表现成了b'\xe4\xb8\xad\xe6\x96\x87'
这种形式,开头的b
表示这是一个bytes
类型。\xe4
是十六进制的表示方式,它占用1个字节的长度,所以”中文“被编码成utf-8
后,咱们能够数得出一共用了6个字节,每一个汉字占用3个,这印证了上面的论述。在使用内置函数bytes()
的时候,必须明确encoding
的参数,不可省略。
咱们都知道,字符串类str
里有一个encode()
方法,它是从字符串向比特流的编码过程。而bytes
类型刚好有个decode()
方法,它是从比特流向字符串解码的过程。除此以外,咱们查看Python源码会发现bytes
和str
拥有几乎如出一辙的方法列表,最大的区别就是encode
和decode
。
从实质上来讲,字符串在磁盘上的保存形式也是01的组合,也须要编码解码。
若是,上面的阐述还不能让你搞清楚二者的区别,那么记住下面两几句话:
在将字符串存入磁盘和从磁盘读取字符串的过程当中,Python自动地帮你完成了编码和解码的工做,你不须要关心它的过程。
使用bytes
类型,实质上是告诉Python,不须要它帮你自动地完成编码和解码的工做,而是用户本身手动进行,并指定编码格式。
Python已经严格区分了bytes
和str
两种数据类型,你不能在须要bytes
类型参数的时候使用str
参数,反之亦然。这点在读写磁盘文件时容易碰到。
在bytes和str的互相转换过程当中,实际就是编码解码的过程,必须显式地指定编码格式。
>>> b b'\xe4\xb8\xad\xe6\x96\x87' >>> type(b) <class 'bytes'> >>> s1 = str(b) >>> s1 "b'\\xe4\\xb8\\xad\\xe6\\x96\\x87'" >>> type(s1) <class 'str'> >>> s1 = str(b, encoding='utf-8') >>> s1 '中文' >>> type(s1) <class 'str'>
咱们再把字符串s1,转换成gbk编码的bytes类型:
>>> s1 '中文' >>> type(s1) <class 'str'> >>> b = bytes(s1, encoding='gbk') >>> b b'\xd6\xd0\xce\xc4'