美文网首页
编码问题

编码问题

作者: cure_py | 来源:发表于2017-05-18 15:27 被阅读0次
    1. 输出结果是16进制---不太懂,来自百度---原网址
    import re
    #思路就是,把十六进制字符串单独提取出来,传递给chr函数,返回Unicode字符.
    pat=re.compile(r'\\u([\dabcdef]{4})')
    s=r"\u56db\u5ddd\u5185\u6c5f"
    print ''.join(map(chr,[eval('0x%s'%c) for c in re.findall(pat,s)]))
    
    2. json格式
    s = '{"province": "\\u56db\\u5ddd", "city": "\\u6210\\u90fd"}'
    json.loads(s)
    

    输出结果如下:
    {'city': '成都', 'province': '四川'}

    3. 例子--环境为python2.7--来自微信

    问题1: 问题在哪里

    s = "中国zg"
    e  = s.encode("utf-8")
    

    问题2: Why?
    过程:
    第一句:操作系统使用自己的默认编码方式,将中国zg进行了编码,并把编码后的01串给了程序
    第二句:将字符串s用utf-8进行编码,并将编码后的字符串赋值给e

    问题来了,程序现在知道s中的01串,还知道这个01串表示的是字符串,但这个字符串的编码是什么呢?操作系统只给程序传来了01串,并没有告诉程序这个01串用的字符编码是什么。

    此时,python程序就会用它自己默认的编码当作s的编码,进而来识别s中的内容。这个默认的编码是ASCII,所以,它会用ASCII来解释这个01串,识别出字符串的内容,再将这个字符串转为utf-8编码。

    好了,程序碰到的第一个字节就是E4(11100101 ),傻眼! ASCII编码中没有这玩意儿啊。ASCII编码中字节第一位都是0啊。

    怎么办?
    报错呗,于是我们就看到了上面的错误。
    错误中的0xe4就是字符 中 的utf8编码的第一个字节

    问题3:How?
      显然,我们只要告诉程序,这个s中的01串的编码是utf-8,程序就应该能正确工作。但这样的解决方法有一个问题,就是不够通用。假如我有个程序,它要读取很多文本文件,每个文本文件的编码都不一样,岂不是针对每个读进来的文件都维护一个编码信息?很繁琐。进一步,如果这些文本文件的内容还要做相互的比较连接之类的操作,编码都不一致,岂不是更麻烦?

    python是怎么聪明地解决这个问题的呢?
    很简单,就是decode!

    decode的意思是说,你有一个字符串,并且你知道它的编码,只要你用该编码decode这个字符串,那么,python就会识别出里面的字符内容,同时,建一个int数组,将每个字符的unicode序号存进去。 所有的字符串都这样做,就可以确保在程序运行过程中,各种来源获得的字符串都有一样的表示。它们就可以方便地进行各种操作了。int数组会被python封装成一个对象,即unicode对象

    问题4:搞定!
    下面,我们在python命令行中输入如下两行代码:

    e = s.decode("utf-8")
    isinstance(e,unicode)
    

    程序的输出是True,这说明,decode后返回的e确实是一个unicode对象。
    unicode在这里是一个类,是python里面的类

    e 被称作unicode字符串,意思是说,它存的是字符的unicode序号,并没有使用任何编码。
    然后,我们就可以将e编码成任意一种编码,比如下面的操作都是可以的

    e.encode("utf-8")
    e.encode("gbk")
    

    只要你选择的编码能够对e中的字符进行编码即可,如果不能编码,就会报错。
    比如,如果你尝试这样:

    e.encode("ascii")
    

    由于ASCII并不能编码 中国 这两个字符,所以会爆出 encode error。
    至此,我们已经看到了两种错误,decode error 和encode error,并解决了它们

    问题5:如何评价python的这种字符编码处理方法?
    首先,这样的处理方法非常的简单。任何文本,只要它进入程序时进行一次decode,就会变成unicode对象,里面用int存着每个字符的unicode序号。只要在这个文本要输出时再进行一次encode,编码成我们需要的编码就可以了。

    问题是,所有的字符都用一个int来表示会不会太浪费空间?毕竟,用ASCII编码,英文的字符只要一个字节就可以了。

    确实会费点空间,但是现在的内存都足够大,而且我们只在程序内部使用这种方式,当字符串要写入文件或者通过网络传输时,我们都会进行相应的编码的。

    还有一个问题,那些写死在程序中的字符串怎么办?难道每次使用都要进行一次decode?不同的操作系统默认使用的编码是不一样的,当我们在linux下,通常需要用utf8做decode,在Windows下,通常需要用gbk做 decode。这样,我们的代码就只能在特定的平台运行。

    python给我们提供了一个很简单的办法,只要在字符串前面加一个u,它就会帮我们探测系统的编码,并自动完成decode。

    在python2中

    前两句告知你的编辑器你用 UTF-8 (PEP-0263). 最后一句告知 Python 所有字符是 UTF-8 (unicode literals)

    #!/usr/bin/python
    #coding=utf-8
    from __future__ import unicode_literals
    

    相关文章

      网友评论

          本文标题:编码问题

          本文链接:https://www.haomeiwen.com/subject/rjysxxtx.html