美文网首页
Pytho基础知识:字符编码

Pytho基础知识:字符编码

作者: EchoPython | 来源:发表于2019-07-31 13:54 被阅读0次

阅读目录
一、字符编码

1、什么实字符编码:将人识别的字符转换成计算机能识别的01,而转换的过程或者规则就是字符编码表。

而这种字符编码表表示了一种对应关系。

2、常用的字符编码表有:ascii、unicode、GBK、Shift_JIS、Euc-kr

3、如何理解字符编码

①、电脑三大核心:cpu -内存-硬盘

②、软件及Python解释器读取文件过程:启动–读取–展示|解释执行
计算机只认识数字

很明显,我们平时在使用计算机时,用的都是人类能读懂的字符(用高级语言编程的结果也无非是在文件内写了 一堆字符),如何能让计算机读懂人类的字符?

必须经过一个过程:

字符--------(翻译过程)------->数字
  
  这个过程实际就是一个字符如何对应一个特定数字的标准,这个标准称之为字符编码
计算机由美国人发明,最早的字符编码为ASCII,只规定了英文字母数字和一些特殊字符与数字的对应关系。最多只能用 8 位来表示(一个字节),即:2**8 = 256,所以,ASCII码最多只能表示 256 个符号

当然我们编程语言都用英文没问题,ASCII够用,但是在处理数据时,不同的国家有不同的语言,日本人会在自己的程序中加入日文,中国人会加入中文。

而要表示中文,单拿一个字节表表示一个汉子,是不可能表达完的(连小学生都认识两千多个汉字),解决方法只有一个,就是一个字节用>8位2进制代表,位数越多,代表的变化就多,这样,就可以尽可能多的表达出不通的汉字

所以中国人规定了自己的标准gb2312编码,规定了包含中文在内的字符->数字的对应关系。

日本人规定了自己的Shift_JIS编码

韩国人规定了自己的Euc-kr编码(另外,韩国人说,计算机是他们发明的,要求世界统一用韩国编码,但世界人民没有搭理他们)

因为此刻的各种标准都只是规定了自己国家的文字在内的字符跟数字的对应关系,如果单纯采用一种国家的编码格式,那么其余国家语言的文字在解析时就会出现乱码

所以迫切需要一个世界的标准(能包含全世界的语言)于是unicode应运而生

ascii用1个字节(8位二进制)代表一个字符

unicode常用2个字节(16位二进制)代表一个字符,生僻字需要用4个字节

这时候乱码问题消失了,所有的文档我们都使用但是新问题出现了,如果我们的文档通篇都是英文,你用unicode会比ascii耗费多一倍的空间,在存储和传输上十分的低效

本着节约的精神,又出现了把Unicode编码转化为“可变长编码”的UTF-8编码。UTF-8编码把一个Unicode字符根据不同的数字大小编码成1-6个字节,常用的英文字母被编码成1个字节,汉字通常是3个字节,只有很生僻的字符才会被编码成4-6个字节。如果你要传输的文本包含大量英文字符,用UTF-8编码就能节省空间

4、字符编码总结:

unicode与utf-8采用的是一张unicode编码表,utf-8是unicode编码表体现方式,变长存储数据
变长优点:(大量数据都是以英文存在,所以utf-8空间更小)传输速度更快

二、字符、编码、解码
u’ ’ Unicode字符串,默认字符

--------------------------------------------------------------------
    注:如果你对python感兴趣,我这有个学习Python基地,里面有很多学习资料,感兴趣的+Q群:895 797 751,

-------------------------------------------------------------------

s1 = u'abc你好\n不好'    #\n代表换行符
print(s1)


>>>
abc你好
不好

b’ ’ 字节字符串

s2 = b'abc123\xb7\xb7'
print(s2)


>>>b'abc123\xb7\xb7'

r’ ’ 原义字符串,不对字符串内存做任何操作

s3 = r'abc你好\n不好'
print(s3)

>>>abc你好\n不好       #此时的换行符不起作用,因为原义字符串不做任何操作。

编码encode与解码decode:

编码:我们能看懂的  编给机器 看 的过程

s='123哈哈'
s1=bytes(s,encoding='utf-8')
print(s1)

>>>b'123\xe5\x93\x88\xe5\x93\x88'

#结果解释:这里的\x代表16进制的意思,一个16进制需要占用4个bit,所以2个16进制就是8个bit也就是1个字节(Bytes),所以\xe5代表2个16进制一个字节,\x93、\x88各代表2个16进制,一个字节。后面三个重复,所以用utf-8编码,这里的一个汉字‘哈’占用3个字节


解码:把机器能看懂的 解释给我们人看的过程

b1= b'\xe4\xbd\xa0\xe5\xa5\xbd'
b2=str(b1,encoding='utf-8')
print(b2)


>>>你好

编码、解码:

将u‘’字符串转成b‘’字符串   编码
u1=u'你好'
b1=u1.encode('utf-8')
print(b1)


>>>b'\xe4\xbd\xa0\xe5\xa5\xbd'
将b‘’字符转换成u‘’字符     解码
b2=b'\xe4\xbd\xa0\xe5\xa5\xbd'
u2=b2.decode('utf-8')
print(u2)

>>>你好

相关文章

  • Pytho基础知识:字符编码

    阅读目录一、字符编码 1、什么实字符编码:将人识别的字符转换成计算机能识别的01,而转换的过程或者规则就是字符编码...

  • 文章笔记

    TCP/IP协议(一)网络基础知识 TCP/IP协议(二)tcp/ip基础知识 字符编码常识及问题解析 代码命名的...

  • 基础知识 | 字符编码

    编程中经常会涉及到字符编码的知识,容易混淆,在这里总结一下。 编码的作用 计算机处理都是使用二进制编码进行处理的,...

  • Linux基础-04术语介绍

    Linux基础知识 术语 字符集就是字符,尤其是非英语字符在系统内的编码方式,也就是通常所说的内码,所有的字符集都...

  • vim字符编码理解和设置说明

    1 字符编码基础知识 字符编码是计算机技术中最基本和最重要的知识之一。如果缺乏相关知识,请自行恶补之。这里仅做最简...

  • Python数据分析-基础知识整理

    数据分析需掌握的基础知识 1、Python 常用数据类型 2、字符串常用模块、函数和操作 3、日期 4、Pytho...

  • Go语言的字符和字符串

    unicode字符基础知识了解 Unicode的基础是一个有编号的字符集,在字符集之上又规定了模块化的编码等等技术...

  • 部分知识点

    chr(编码值) - 将字符编码转换成字符 ord(字符) - 获取字符对应的编码值 可以将字符编码放到字符串中便...

  • Swift 代码规范

    目录 源文件基础知识文件名文件编码空白字符特殊转义序列不可见的字符和修饰符字符串字面量不可见的字符和修饰符 源文件...

  • 字符编码知识梳理

    [toc] 字符编码: 字符编码(英语:Character encoding)、字集码是把字符集中的字符编码为指定...

网友评论

      本文标题:Pytho基础知识:字符编码

      本文链接:https://www.haomeiwen.com/subject/binzrctx.html