先说一个故事:
《圣经•旧约•创世纪》上曾经记载人类为了修建一个能通往天堂的高塔,联合起来。塔一天一天的长高,上帝害怕了,为了阻止人类的计划,上帝想出了一个办法,他让人类说不同的语言。这让人类之间不能沟通,修建通天塔的计划就流产了,通天塔没能修建起来。这就是关于不同语言产生的传说。
然后开始我们今天对字符编码的介绍
第一台电子计算机ENICA于1946年2月14日诞生在美国宾大,自此拉开了计算机时代。计算机是人类发明的产物,那自然要为人类服务,例如做计算,播放音乐等。不管是哪一种都需要跟字符打交道。比如你在网页上要搜索东西,肯定需要输入搜索关键词吧。
我们知道,计算机只能识别0和1,不能直接识别英文,汉字等。聪明的人类想到用一连串01序列来表示,这就是字符编码(当然除了01序列,还有别的形式,例如摩斯密码,这里只讨论01序列,并且以下为方便简称编码。
我们先举几个最早的编码方式来说说,BCD码(全称Binary-Coded Decimal,二进码十进数)是是IBM于1959年在其1401和1620和700系列的计算机中最早使用的六位编码方案。这里可以简单介绍一下:
二进制数的每一个位表示一个计算机位(bit,简称位),按照定义,那么有n位就能表示 2^n 个数。数字0-9一共10个数,那么至少需要4位(2^4 =16>=10)。因此BCD码用了四个位元来储存一个十进制的数码,使二进制之间的转换得以快捷的进行。
例如十进制10,其二进制表示就是1010。但是很明显,缺点就是表示的内容太少。之后,又出现了ASCII码,EBCDIC码等。但是这些码都只能表示很少的字符,例如ASCII(现今最通用的单字节编码系统)最多能表示128种不同的字符。当这些编码方式遇到中文,那肯定就傻眼了,中文那么多,127怎么够。为此,中国的国标字符编码需要占用 2 个字节(最多能表示2^16=65536个字符),中国标准局依次发布了GB2312、GBK、GB18030等。
虽然每个国家或地区的字符编码自行搞定了,就以中国为例,你拿用GBK写的程序,放到香港那里,则会出现乱码,因为香港台湾那里使用的编码方式是BIG-5(俗称大五码)。国内如此,那么各个国家国家间呢?很多国家的编码区间都是重叠的,同一个汉字(比如有一些汉字同时存在于简体、繁体、日语汉字中)有不同的编码,很混乱是不是?但也凑合用了。编码不同导致了很多麻烦,比如一个网页,如果你不知道它是什么编码的,r那么你可能很难确定它显示的是什么,一个字符可能是大陆简体/台湾繁体/日本汉字,但又完全是不同的几个字。
上说所说的情况很混乱是不是?
哪有解决办法吗?答案是有。
为此Unicode编码应运而生,它整合全世界的几乎所有语言文字。1990年开始研发,1994年正式公布。Unicode在统一字符集方面的成功让它在计算机软件的国际化和本地化中有了广泛的应用。它具有一下几个特点:
1.它为每种语言中的每个字符设定了统一并且唯一的二进制编码,以满足跨语言、跨平台进行文本转换、处理的要求。
2.Unicode可以通过不同的字符编码实现。
Unicode标准定义了UTF-8,UTF-16和UTF-32等。其中使用的最普遍的有UTF-8,UTF-16和UCS-2。特别指出,超过90%的网页都使用UTF-8编码。
结束语
好了,说了这么多,不知道读者有没有对字符编码有了一个简单的认识,从这之后,我将简单介绍一下各种不同的编码方式,欢迎你们提出你们的问题和建议。
网友评论