美文网首页
字符编码那些事儿

字符编码那些事儿

作者: lee_csu | 来源:发表于2014-11-26 11:16 被阅读0次

    一直被字符的编码搞得头晕脑胀,经常出现乱码却又无可奈何,最近看到两篇讲字符编码的文章,这才有点头绪,于是决定把它写出来。

    位与字节

    计算机是以二进制位进行存储的,8位构成一字节,那么就会引来一个问题,就是如何将现实生活中真正的字符(如'a'、'b'、'c'等)转为二进制位放到计算机中进行存储。因此字符编码也就应运而生了,即定义一些规范,将真实字符与二进制位联系起来。又因为计算机的内存是以字节为单位的,所以也就是将真实字符与字节联系起来。

    字符集发展

    最开始使用的是ASCII码字符集,用一个字节来表示就足够了(其实只用了7为二进制数),共128个字符,95的可打印字符(如'a'、'b'等),33个控制字符(如'\n'、'\t'等),ASCII码字符集基本满足了美国人民的需要。但是对于欧洲人民来说,这个字符集就不够用了,因为他们经常会用到一些扩展的拉丁字符(如'ẚ'等),怎么办呢?

    最简单的办法就是将一个字节的8位全部用上,于是又了EASCII字符集,共256个字符,这满足了西欧人民的需要,但是对于北欧和东欧的人民来讲,仍然不够用,于是ISO 8859字符集出现了,它共由15个字符集组成,如ISO 8859-1为西欧字符集,ISO 8859-4为北欧字符集等。如此一来,欧洲人民的字符问题就解决了。

    终于到我们大天朝了,中文字符数量太多,还分为简体和繁体两种。于是不得不采用两个字节进行存储,于是出现了以下几种字符集:

    字符集 字节数 兼容性 说明
    GB2312 变字节,1-2 兼容ASCII(1字节) 简体中文字符集
    BIG5 定字节,2 兼容ASCII(2字节) 繁体中文字符集
    GBK 定字节,2 兼容ASCII(2字节) GB2312的扩展(支持繁体)
    Unicode

    上面说了每个区域有各自的字符集标准,那么就无法再同一个文档中同时显示所有的字符,于是有人开始琢磨能不能把规定一个全球性的字符集标准,能够将世界上的所有字符都包括进去,因此有了Unicode字符集,它规定使用4个字节进行存储,包括了世界上所有的字符,并且可以扩展。但是用四个字节存储ASCII码浪费了太多存储空间,因此刚开始的时候Unicode难以得到推广,所以必须采用有效的编码方案。

    可以这样说,上面讲的所有字符集都是把字符集(不包括Unicode)与编码方案紧密结合起来的,也就是每个字符都有确定的字节流(二进制位),因此GBK即可称为字符集,也可称为编码方案。但是可以说Unicode只是单纯的字符集,里面只有字符及其字符所对应的字符码。至于编码方案,有UTF-8,UTF-16,GB18030等。

    UTF-8

    UTF-8是目前使用最多的编码方案,其实更准确地说是Unicode的编码方案,主要有两条规则:

    1. 对于单字节字符,字节的首位二进制码为0,其余为Unicode码
    2. 对于n(2-4)字节字符,首字节的前n位二进制码为1,n+1位二进制码为0,后面字节的两位二进制码均为10,其余为Unicode码

    具体如下表:

    Unicode(16进制) UTF-8(二进制)
    00000000 - 0000007F 0xxxxxxx
    00000080 - 000007FF 110xxxxx 10xxxxxx
    00000800 - 0000FFFF 1110xxxx 10xxxxxx 10xxxxxx

    如此一来,问题就得到解决了,UTF-8也得到了迅速发展。

    注意事项

    1. ANSI:为Windows下默认的编码方案,对英文使用ASCII码,对中文使用GB2313编码方案
    2. BOM:微软用它来标识采用UTF-8编码方案的文件,并不是通用标准
    3. 乱码:乱码的根本原因是使用错误的编码方案去解码字节流,因此当出现乱码的时候,请去查看文件的编码方案是什么,这样才能根本解决乱码

    参考

    1. 关于字符编码,你所需要知道的
    2. 字符编码常识及问题解析

    相关文章

      网友评论

          本文标题:字符编码那些事儿

          本文链接:https://www.haomeiwen.com/subject/pugwtttx.html