美文网首页
较全面的Python重点整理

较全面的Python重点整理

作者: BinJiang | 来源:发表于2019-10-16 22:46 被阅读0次
    作者:二十一

    https://segmentfault.com/a/1190000018737045

    Py2 VS Py3

    1. print成为了函数,python2是关键字

    2. 不再有unicode对象,默认str就是unicode

    3. python3除号返回浮点数

    4. 没有了long类型

    5. xrange不存在,range替代了xrange

    6. 可以使用中文定义函数名变量名

    7. 高级解包 和*解包

    8. 限定关键字参数 *后的变量必须加入名字=值

    9. raise from

    10. iteritems移除变成items()

    11. yield from 链接子生成器

    12. asyncio,async/await原生协程支持异步编程

    13. 新增:
      enum,mock,ipaddress,concurrent.futures,asyncio urllib,selector
      不同枚举类间不能进行比较
      同一枚举类间只能进行相等的比较
      枚举类的使用(编号默认从1开始)
      为了避免枚举类中相同枚举值的出现,可以使用@unique装饰枚举类

    #枚举的注意事项
    from enum import Enum
    
    class COLOR(Enum):
        YELLOW=1
    #YELLOW=2#会报错
        GREEN=1#不会报错,GREEN可以看作是YELLOW的别名
        BLACK=3
        RED=4
    print(COLOR.GREEN)#COLOR.YELLOW,还是会打印出YELLOW
    for i in COLOR:#遍历一下COLOR并不会有GREEN
        print(i)
    #COLOR.YELLOW\nCOLOR.BLACK\nCOLOR.RED\n怎么把别名遍历出来
    for i in COLOR.__members__.items():
        print(i)
    # output:('YELLOW', <COLOR.YELLOW: 1>)\n('GREEN', <COLOR.YELLOW: 1>)\n('BLACK', <COLOR.BLACK: 3>)\n('RED', <COLOR.RED: 4>)
    for i in COLOR.__members__:
        print(i)
    # output:YELLOW\nGREEN\nBLACK\nRED
    
    #枚举转换
    #最好在数据库存取使用枚举的数值而不是使用标签名字字符串
    #在代码里面使用枚举类
    a=1
    print(COLOR(a))# output:COLOR.YELLOW
    

    py2/3转换工具

    1. six模块:兼容pyton2和pyton3的模块
    2. 2to3工具:改变代码语法版本
    3. future:使用下一版本的功能

    常用的库

    1. 必须知道的collections
      https://segmentfault.com/a/1190000017385799

    2. python排序操作及heapq模块
      https://segmentfault.com/a/1190000017383322

    3. itertools模块超实用方法
      https://segmentfault.com/a/1190000017416590

    不常用但很重要的库

    1. dis(代码字节码分析)
    2. inspect(生成器状态)
    3. cProfile(性能分析)
    4. bisect(维护有序列表)
    5. fnmatch
      fnmatch(string,"*.txt") #win下不区分大小写
      fnmatch根据系统决定
      fnmatchcase完全区分大小写
    6. timeit(代码执行时间)
    def isLen(strString):
            #还是应该使用三元表达式,更快
            return True if len(strString)>6 else False
    
        def isLen1(strString):
            #这里注意false和true的位置
            return [False,True][len(strString)>6]
        import timeit
        print(timeit.timeit('isLen1("5fsdfsdfsaf")',setup="from __main__ import isLen1"))
    
        print(timeit.timeit('isLen("5fsdfsdfsaf")',setup="from __main__ import isLen"))
    
    1. contextlib
      @contextlib.contextmanager使生成器函数变成一个上下文管理器

    2. types(包含了标准解释器定义的所有类型的类型对象,可以将生成器函数修饰为异步模式)

        import types
        types.coroutine #相当于实现了__await__
    
    1. html(实现对html的转义)
    import html
        html.escape("<h1>I'm Jim</h1>") # output:'&lt;h1&gt;I&#x27;m Jim&lt;/h1&gt;'
        html.unescape('&lt;h1&gt;I&#x27;m Jim&lt;/h1&gt;') # <h1>I'm Jim</h1>
    
    1. mock(解决测试依赖)
    2. concurrent(创建进程池河线程池)
    from concurrent.futures import ThreadPoolExecutor
    
    pool = ThreadPoolExecutor()
    task = pool.submit(函数名,(参数)) #此方法不会阻塞,会立即返回
    task.done()#查看任务执行是否完成
    task.result()#阻塞的方法,查看任务返回值
    task.cancel()#取消未执行的任务,返回True或False,取消成功返回True
    task.add_done_callback()#回调函数
    task.running()#是否正在执行     task就是一个Future对象
    
    for data in pool.map(函数,参数列表):#返回已经完成的任务结果列表,根据参数顺序执行
        print(返回任务完成得执行结果data)
    
    from concurrent.futures import as_completed
    as_completed(任务列表)#返回已经完成的任务列表,完成一个执行一个
    
    wait(任务列表,return_when=条件)#根据条件进行阻塞主线程,有四个条件
    
    1. selector(封装select,用户多路复用io编程)

    2. asyncio

    future=asyncio.ensure_future(协程)  等于后面的方式  future=loop.create_task(协程)
    future.add_done_callback()添加一个完成后的回调函数
    loop.run_until_complete(future)
    future.result()查看写成返回结果
    
    asyncio.wait()接受一个可迭代的协程对象
    asynicio.gather(*可迭代对象,*可迭代对象)    两者结果相同,但gather可以批量取消,gather对象.cancel()
    
    一个线程中只有一个loop
    
    在loop.stop时一定要loop.run_forever()否则会报错
    loop.run_forever()可以执行非协程
    最后执行finally模块中 loop.close()
    
    asyncio.Task.all_tasks()拿到所有任务 然后依次迭代并使用任务.cancel()取消
    
    偏函数partial(函数,参数)把函数包装成另一个函数名  其参数必须放在定义函数的前面
    
    loop.call_soon(函数,参数)
    call_soon_threadsafe()线程安全
    loop.call_later(时间,函数,参数)
    在同一代码块中call_soon优先执行,然后多个later根据时间的升序进行执行
    
    如果非要运行有阻塞的代码
    使用loop.run_in_executor(executor,函数,参数)包装成一个多线程,然后放入到一个task列表中,通过wait(task列表)来运行
    
    通过asyncio实现http
    reader,writer=await asyncio.open_connection(host,port)
    writer.writer()发送请求
    async for data in reader:
        data=data.decode("utf-8")
        list.append(data)
    然后list中存储的就是html
    
    as_completed(tasks)完成一个返回一个,返回的是一个可迭代对象
    
    协程锁
    async with Lock():
    

    Python进阶

    1. 进程间通信:
      Manager(内置了好多数据结构,可以实现多进程间内存共享)
    from multiprocessing import Manager,Process
    def add_data(p_dict, key, value):
        p_dict[key] = value
    
    if __name__ == "__main__":
        progress_dict = Manager().dict()
        from queue import PriorityQueue
    
        first_progress = Process(target=add_data, args=(progress_dict, "bobby1", 22))
        second_progress = Process(target=add_data, args=(progress_dict, "bobby2", 23))
    
        first_progress.start()
        second_progress.start()
        first_progress.join()
        second_progress.join()
    
        print(progress_dict)
    

    Pipe(适用于两个进程)

    from multiprocessing import Pipe,Process
    #pipe的性能高于queue
    def producer(pipe):
        pipe.send("bobby")
    
    def consumer(pipe):
        print(pipe.recv())
    
    if __name__ == "__main__":
        recevie_pipe, send_pipe = Pipe()
        #pipe只能适用于两个进程
        my_producer= Process(target=producer, args=(send_pipe, ))
        my_consumer = Process(target=consumer, args=(recevie_pipe,))
    
        my_producer.start()
        my_consumer.start()
        my_producer.join()
        my_consumer.join()
    

    Queue(不能用于进程池,进程池间通信需要使用Manager().Queue())

    from multiprocessing import Queue,Process
    def producer(queue):
        queue.put("a")
        time.sleep(2)
    
    def consumer(queue):
        time.sleep(2)
        data = queue.get()
        print(data)
    
    if __name__ == "__main__":
        queue = Queue(10)
        my_producer = Process(target=producer, args=(queue,))
        my_consumer = Process(target=consumer, args=(queue,))
        my_producer.start()
        my_consumer.start()
        my_producer.join()
        my_consumer.join()
    

    进程池

    def producer(queue):
        queue.put("a")
        time.sleep(2)
    
    def consumer(queue):
        time.sleep(2)
        data = queue.get()
        print(data)
    
    if __name__ == "__main__":
        queue = Manager().Queue(10)
        pool = Pool(2)
    
        pool.apply_async(producer, args=(queue,))
        pool.apply_async(consumer, args=(queue,))
    
        pool.close()
        pool.join()
    
    1. sys模块几个常用方法
      argv 命令行参数list,第一个是程序本身的路径
      path 返回模块的搜索路径
      modules.keys() 返回已经导入的所有模块的列表
      exit(0) 退出程序
    2. a in s or b in s or c in s简写
      采用any方式:all() 对于任何可迭代对象为空都会返回True
        # 方法一
        True in [i in s for i in [a,b,c]]
        # 方法二
        any(i in s for i in [a,b,c])
        # 方法三
        list(filter(lambda x:x in s,[a,b,c]))
    
    1. set集合运用
      {1,2}.issubset({1,2,3})#判断是否是其子集
      {1,2,3}.issuperset({1,2})
      {}.isdisjoint({})#判断两个set交集是否为空,是空集则为True

    2. 代码中中文匹配
      [u4E00-u9FA5]匹配中文文字区间[一到龥]

    3. 查看系统默认编码格式

        import sys
        sys.getdefaultencoding()    # setdefaultencodeing()设置系统编码方式
    
    1. getattr VS getattribute
    class A(dict):
        def __getattr__(self,value):#当访问属性不存在的时候返回
            return 2
        def __getattribute__(self,item):#屏蔽所有的元素访问
            return item
    
    1. 类变量是不会存入实例dict中的,只会存在于类的dict

    2. globals/locals(可以变相操作代码)
      globals中保存了当前模块中所有的变量属性与值
      locals中保存了当前环境中的所有变量属性与值

    3. python变量名的解析机制(LEGB)
      本地作用域(Local)
      当前作用域被嵌入的本地作用域(Enclosing locals)
      全局/模块作用域(Global)
      内置作用域(Built-in)

    4. 实现从1-100每三个为一组分组

       print([[x for x in range(1,101)][i:i+3] for i in range(0,100,3)])
    
    1. 什么是元类?
      即创建类的类,创建类的时候只需要将metaclass=元类,元类需要继承type而不是object,因为type就是元类
    type.__bases__  #(<class 'object'>,)
    object.__bases__    #()
    type(object)    #<class 'type'>
    
        class Yuan(type):
            def __new__(cls,name,base,attr,*args,**kwargs):
                return type(name,base,attr,*args,**kwargs)
        class MyClass(metaclass=Yuan):
            pass
    
    1. 什么是鸭子类型(即:多态)?
      Python在使用传入参数的过程中不会默认判断参数类型,只要参数具备执行条件就可以执行

    2. 深拷贝和浅拷贝
      浅拷贝拷贝内容,深拷贝拷贝地址(增加引用计数)
      copy模块实现浅拷贝

    3. 单元测试
      一般测试类继承模块unittest下的TestCase
      pytest模块快捷测试(方法以test_开头/测试文件以test_开头/测试类 以Test开头,并且不能带有 init 方法)

    4. coverage统计测试覆盖率

    class MyTest(unittest.TestCase):
            def tearDown(self):# 每个测试用例执行前执行
                print('本方法开始测试了')
    
            def setUp(self):# 每个测试用例执行之前做操作
                print('本方法测试结束')
    
    1. gil会根据执行的字节码行数以及时间片释放gil,gil在遇到io的操作时候主动释放

    18.什么是monkey patch?
    猴子补丁,在运行的时候替换掉会阻塞的语法修改为非阻塞的方法

    1. 什么是自省(Introspection)?
      运行时判断一个对象的类型的能力,id,type,isinstance

    2. python是值传递还是引用传递?
      都不是,python是共享传参,默认参数在执行时只会执行一次

    3. try-except-else-finally中else和finally的区别
      else在不发生异常的时候执行,finally无论是否发生异常都会执行
      except一次可以捕获多个异常,但一般为了对不同异常进行不同处理,我们分次捕获处理

    4. GIL全局解释器锁
      同一时间只能有一个线程执行,CPython(IPython)的特点,其他解释器不存在
      cpu密集型:多进程+进程池
      io密集型:多线程/协程

    5. 什么是Cython
      将python解释成C代码工具

    6. 生成器和迭代器
      可迭代对象只需要实现iter方法
      实现nextiter方法的对象就是迭代器
      使用生成器表达式或者yield的生成器函数(生成器是一种特殊的迭代器)

    7. 什么是协程
      yield
      async-awiat
      比线程更轻量的多任务方式
      实现方式

    8. dict底层结构
      为了支持快速查找使用了哈希表作为底层结构
      哈希表平均查找时间复杂度为o(1)
      CPython解释器使用二次探查解决哈希冲突问题

    9. Hash扩容和Hash冲突解决方案
      链接法
      二次探查(开放寻址法):python使用
      循环复制到新空间实现扩容
      冲突解决:

    for gevent import monkey
        monkey.patch_all()  #将代码中所有的阻塞方法都进行修改,可以指定具体要修改的方法
    
    1. 判断是否为生成器或者协程
    co_flags = func.__code__.co_flags
    
        # 检查是否是协程
        if co_flags & 0x180:
            return func
    
        # 检查是否是生成器
        if co_flags & 0x20:
            return func
    
    1. 斐波那契解决的问题及变形
    #一只青蛙一次可以跳上1级台阶,也可以跳上2级。求该青蛙跳上一个n级的台阶总共有多少种跳法。
    #请问用n个2*1的小矩形无重叠地覆盖一个2*n的大矩形,总共有多少种方法?
    #方式一:
    fib = lambda n: n if n <= 2 else fib(n - 1) + fib(n - 2)
    #方式二:
    def fib(n):
        a, b = 0, 1
        for _ in range(n):
            a, b = b, a + b
        return b
    
    #一只青蛙一次可以跳上1级台阶,也可以跳上2级……它也可以跳上n级。求该青蛙跳上一个n级的台阶总共有多少种跳法。
    fib = lambda n: n if n < 2 else 2 * fib(n - 1)
    
    1. 获取电脑设置的环境变量
     import os
        os.getenv(env_name,None)#获取环境变量如果不存在为None
    
    1. 垃圾回收机制
      引用计数
      标记清除
      分代回收
    #查看分代回收触发
        import gc
        gc.get_threshold()  #output:(700, 10, 10)
    
    1. True和False在代码中完全等价于1和0,可以直接和数字进行计算,inf表示无穷大

    2. C10M/C10K
      C10M:8核心cpu,64G内存,在10gbps的网络上保持1000万并发连接
      C10K:1GHz CPU,2G内存,1gbps网络环境下保持1万个客户端提供FTP服务

    3. yield from与yield的区别:
      yield from跟的是一个可迭代对象,而yield后面没有限制
      GeneratorExit生成器停止时触发

    4. 单下划线的几种使用
      在定义变量时,表示为私有变量
      在解包时,表示舍弃无用的数据
      在交互模式中表示上一次代码执行结果
      可以做数字的拼接(111_222_333)

    5. 使用break就不会执行else

    6. 10进制转2进制

        def conver_bin(num):
            if num == 0:
                return num
            re = []
            while num:
                num, rem = divmod(num,2)
                re.append(str(rem))
            return "".join(reversed(re))
        conver_bin(10)
    
    1. list1 = ['A', 'B', 'C', 'D'] 如何才能得到以list中元素命名的新列表 A=[],B=[],C=[],D=[]呢
      list1 = ['A', 'B', 'C', 'D']
    
        # 方法一
        for i in list1:
            globals()[i] = []   # 可以用于实现python版反射
    
        # 方法二
        for i in list1:
            exec(f'{i} = []')   # exec执行字符串语句
    
    1. Ellipsis类型
    # 代码中出现...省略号的现象就是一个Ellipsis对象
    L = [1,2,3]
    L.append(L)
    print(L)    # output:[1,2,3,[…]]
    
    1. lazy惰性计算
    class lazy(object):
            def __init__(self, func):
                self.func = func
    
            def __get__(self, instance, cls):
                val = self.func(instance)    #其相当于执行的area(c),c为下面的Circle对象
                setattr(instance, self.func.__name__, val)
                return val`
    
        class Circle(object):
            def __init__(self, radius):
                self.radius = radius
    
            @lazy
            def area(self):
                print('evalute')
                return 3.14 * self.radius ** 2
    
    1. 遍历文件,传入一个文件夹,将里面所有文件的路径打印出来(递归)
    all_files = []
    def getAllFiles(directory_path):
        import os
        for sChild in os.listdir(directory_path):
            sChildPath = os.path.join(directory_path,sChild)
            if os.path.isdir(sChildPath):
                getAllFiles(sChildPath)
            else:
                all_files.append(sChildPath)
        return all_files
    
    1. 文件存储时,文件名的处理
    #secure_filename将字符串转化为安全的文件名
    from werkzeug import secure_filename
    secure_filename("My cool movie.mov") # output:My_cool_movie.mov
    secure_filename("../../../etc/passwd") # output:etc_passwd
    secure_filename(u'i contain cool \xfcml\xe4uts.txt') # output:i_contain_cool_umlauts.txt
    
    1. 日期格式化
    from datetime import datetime
    
    datetime.now().strftime("%Y-%m-%d")
    
    import time
    #这里只有localtime可以被格式化,time是不能格式化的
    time.strftime("%Y-%m-%d",time.localtime())
    
    1. missing你应该知道
    class Mydict(dict):
        def __missing__(self,key): # 当Mydict使用切片访问属性不存在的时候返回的值
            return key
    
    1. +与+=
    # +不能用来连接列表和元祖,而+=可以(通过iadd实现,内部实现方式为extends(),所以可以增加元组),+会创建新对象
    #不可变对象没有__iadd__方法,所以直接使用的是__add__方法,因此元祖可以使用+=进行元祖之间的相加
    
    1. 如何将一个可迭代对象的每个元素变成一个字典的所有键?
    dict.fromkeys(['jim','han'],21) # output:{'jim': 21, 'han': 21}
    

    网络知识

    1. 什么是HTTPS?
      安全的HTTP协议,https需要cs证书,数据加密,端口为443,安全,同一网站https seo排名会更高

    2. 常见响应状态码

        204 No Content //请求成功处理,没有实体的主体返回,一般用来表示删除成功
        206 Partial Content //Get范围请求已成功处理
        303 See Other //临时重定向,期望使用get定向获取
        304 Not Modified //求情缓存资源
        307 Temporary Redirect //临时重定向,Post不会变成Get
        401 Unauthorized //认证失败
        403 Forbidden //资源请求被拒绝
        400 //请求参数错误
        201 //添加或更改成功
        503 //服务器维护或者超负载
    
    1. SSL(Secure Sockets Layer 安全套接层),及其继任者传输层安全(Transport Layer Security,TLS)是为网络通信提供安全及数据完整性的一种安全协议。

    2. SSH(安全外壳协议) 为 Secure Shell 的缩写,由 IETF 的网络小组(Network Working Group)所制定;SSH 为建立在应用层基础上的安全协议。SSH 是目前较可靠,专为远程登录会话和其他网络服务提供安全性的协议。利用 SSH 协议可以有效防止远程管理过程中的信息泄露问题。SSH最初是UNIX系统上的一个程序,后来又迅速扩展到其他操作平台。SSH在正确使用时可弥补网络中的漏洞。SSH客户端适用于多种平台。几乎所有UNIX平台—包括HP-UX、Linux、AIX、Solaris、Digital UNIX、Irix,以及其他平台,都可运行SSH。

    3. TCP/IP
      TCP:面向连接/可靠/基于字节流
      UDP:无连接/不可靠/面向报文
      三次握手四次挥手
      三次握手(SYN/SYN+ACK/ACK)
      四次挥手(FIN/ACK/FIN/ACK)

    4. 为什么连接的时候是三次握手,关闭的时候却是四次握手?
      因为当Server端收到Client端的SYN连接请求报文后,可以直接发送SYN+ACK报文。其中ACK报文是用来应答的,SYN报文是用来同步的。但是关闭连接时,当Server端收到FIN报文时,很可能并不会立即关闭SOCKET,所以只能先回复一个ACK报文,告诉Client端,"你发的FIN报文我收到了"。只有等到我Server端所有的报文都发送完了,我才能发送FIN报文,因此不能一起发送。故需要四步握手。

    5. 为什么TIME_WAIT状态需要经过2MSL(最大报文段生存时间)才能返回到CLOSE状态?
      虽然按道理,四个报文都发送完毕,我们可以直接进入CLOSE状态了,但是我们必须假象网络是不可靠的,有可以最后一个ACK丢失。所以TIME_WAIT状态就是用来重发可能丢失的ACK报文。

    6. XSS/CSRF
      HttpOnly禁止js脚本访问和操作Cookie,可以有效防止XSS

    Mysql

    1. 索引改进过程
      线性结构->二分查找->hash->二叉查找树->平衡二叉树->多路查找树->多路平衡查找树(B-Tree)

    2. Mysql面试总结基础篇
      https://segmentfault.com/a/1190000018371218

    3. Mysql面试总结进阶篇
      https://segmentfault.com/a/1190000018380324

    4. 深入浅出Mysql
      http://ningning.today/2017/02/13/database/深入浅出mysql/

    5. 清空整个表时,InnoDB是一行一行的删除,而MyISAM则会从新删除建表

    6. text/blob数据类型不能有默认值,查询时不存在大小写转换

    7. 什么时候索引失效
      以%开头的like模糊查询
      出现隐式类型转换
      没有满足最左前缀原则
      对于多列索引,不是使用的第一部分,则不会使用索引

    8. 失效场景:
      应尽量避免在 where 子句中使用 != 或 <> 操作符,否则引擎将放弃使用索引而进行全表扫描
      尽量避免在 where 子句中使用 or 来连接条件,否则将导致引擎放弃使用索引而进行全表扫描,即使其中有条件带索引也不会使用,这也是为什么尽量少用 or 的原因
      如果列类型是字符串,那一定要在条件中将数据使用引号引用起来,否则不会使用索引
      应尽量避免在 where 子句中对字段进行函数操作,这将导致引擎放弃使用索引而进行全表扫描
      不要在 where 子句中的 “=” 左边进行函数、算术运算或其他表达式运算,否则系统将可能无法正确使用索引
      应尽量避免在 where 子句中对字段进行表达式操作,这将导致引擎放弃使用索引而进行全表扫描
      不适合键值较少的列(重复数据较多的列)比如:set enum列就不适合(枚举类型(enum)可以添加null,并且默认的值会自动过滤空格集合 (set)和枚举类似,但只可以添加64个值)
      如果MySQL估计使用全表扫描要比使用索引快,则不使用索引

    例如:
    select id from t where substring(name,1,3) = 'abc' – name;
    以abc开头的,应改成:
    select id from t where name like 'abc%' 
    例如:
    select id from t where datediff(day, createdate, '2005-11-30') = 0 – '2005-11-30';
    应改为:
    
    如:
    select id from t where num/2 = 100 
    应改为:
    select id from t where num = 100*2;
    
    1. 什么是聚集索引
      B+Tree叶子节点保存的是数据还是指针
      MyISAM索引和数据分离,使用非聚集
      InnoDB数据文件就是索引文件,主键索引就是聚集索引

    相关文章

      网友评论

          本文标题:较全面的Python重点整理

          本文链接:https://www.haomeiwen.com/subject/exdpmctx.html