美文网首页程序员
异步I/O——协程

异步I/O——协程

作者: 爱秋刀鱼的猫 | 来源:发表于2017-12-13 09:35 被阅读0次

    什么是协程?
    协程,又称微线程,纤程。英文名Coroutine。协程的概念有点像子程序。
    子程序,或者称为函数,在所有语言中都是层级调用,比如A调用B,B在执行过程中又调用了C,C执行完毕返回,B执行完毕返回,最后是A执行完毕。
    所以子程序调用是通过栈实现的,一个线程就是执行一个子程序。子程序调用总是一个入口,一次返回,调用顺序是明确的。而协程的调用和子程序不同。
    协程看上去也是子程序,但执行过程中,在子程序内部可中断,然后转而执行别的子程序,在适当的时候再返回来接着执行。
    协程的特点在于是一个线程执行,那和多线程比,协程有何优势?

    • 最大的优势就是协程极高的执行效率。因为子程序切换不是线程切换,而是由程序自身控制,因此,没有线程切换的开销,和多线程比,线程数量越多,协程的性能优势就越明显。

    • 第二大优势就是不需要多线程的锁机制,因为只有一个线程,也不存在同时写变量冲突,在协程中控制共享资源不加锁,只需要判断状态就好了,所以执行效率比多线程高很多。

    Python对协程的支持是通过generator实现的。generate机制可以看这里生成器

    直接看这段代码:

    def consumer():
        r = ''
        while True:
    #3
            n = yield r
            if not n:
                return
            print('[CONSUMER] Consuming %s...' % n)
    #4
            r = '200 OK'
    
    def produce(c):
    #1
        c.send(None)
        n = 0
        while n < 5:
            n = n + 1
            print('[PRODUCER] Producing %s...' % n)
    #2
            r = c.send(n)
            print('[PRODUCER] Consumer return: %s' % r)
        c.close()
    
    c = consumer()
    produce(c)
    

    先不看这段代码的执行结果。先来分析一下。
    consumer()是一个生成器。
    #1 表示对协程的"预激",必须得有,不然会报错,参见。
    #2 生成器对象具有 send(),可以向 yield 传值(之前学生成器那节时,知道了 yield 会返回值)。此时,n为1,即 #2 处 c.send(1)向#3处的 yield 语句传了个 1.
    注意,代码运行到 #4处时循环还在继续,然后又开始执行#3 的 yield 语句,此时,r 的值变为"200 OK",即#2处 c.send(n)的返回值即为"200 OK"。
    如此循环往复。

    整个流程是这样的:把一个consumer传入produce后:

    • 首先调用c.send(None)启动生成器;
    • 然后,一旦生产了东西,通过c.send(n)切换到consumer执行;
    • consumer通过yield拿到消息,处理,又通过yield把结果传回;
    • produce拿到consumer处理的结果,继续生产下一条消息;
    • produce决定不生产了,通过c.close()关闭consumer,整个过程结束。

    整个流程无锁,由一个线程执行,produce和consumer协作完成任务,所以称为“协程”,而非线程的抢占式多任务。

    对于生成器的理解,有这么一段话:

    生成器函数中最关键也是最易理解错的,就是receive=yield value这句,如果对循环体的执行步骤理解错误,就会失之毫厘,差之千里。
    其实receive=yield value包含了3个步骤:
    1、向函数外抛出(返回)value
    2、暂停(pause),等待next()或send()恢复
    3、赋值receive=MockGetValue() 。 这个MockGetValue()是假想函数,用来接收send()发送进来的值

    所以上面程序的运行结果就是:

    [PRODUCER] Producing 1...
    [CONSUMER] Consuming 1...
    [PRODUCER] Consumer return: 200 OK
    [PRODUCER] Producing 2...
    [CONSUMER] Consuming 2...
    [PRODUCER] Consumer return: 200 OK
    [PRODUCER] Producing 3...
    [CONSUMER] Consuming 3...
    [PRODUCER] Consumer return: 200 OK
    [PRODUCER] Producing 4...
    [CONSUMER] Consuming 4...
    [PRODUCER] Consumer return: 200 OK
    [PRODUCER] Producing 5...
    [CONSUMER] Consuming 5...
    [PRODUCER] Consumer return: 200 OK
    

    知道这些以后,我们可以利用协程加速爬虫速度。不过这一切的前提是,你了解了一条爬虫是怎么诞生的

    参考资料:了解协程的前世今生

    相关文章

      网友评论

        本文标题:异步I/O——协程

        本文链接:https://www.haomeiwen.com/subject/bltaixtx.html