1.协程
协程,又称微线程,纤程。英文名Coroutine。
1.1 协程是什么
协程是python个中另外一种实现多任务的方式,只不过比线程更小占用更小执行单元(理解为需要的资源)。 为啥说它是一个执行单元,因为它自带CPU上下文。这样只要在合适的时机, 我们可以把一个协程 切换到另一个协程。 只要这个过程中保存或恢复 CPU上下文那么程序还是可以运行的。
通俗的理解:在一个线程中的某个函数,可以在任何地方保存当前函数的一些临时变量等信息,然后切换到另外一个函数中执行,注意不是通过调用函数的方式做到的,并且切换的次数以及什么时候再切换到原来的函数都由开发者自己确定
1.2 协程和线程差异
在实现多任务时, 线程切换从系统层面远不止保存和恢复 CPU上下文这么简单。 操作系统为了程序运行的高效性每个线程都有自己缓存Cache等等数据,操作系统还会帮你做这些数据的恢复操作。 所以线程的切换非常耗性能。但是协程的切换只是单纯的操作CPU的上下文,所以一秒钟切换个上百万次系统都抗的住。
2. yield实现协程(了解)
import time
def work1():
while True:
print("----work1---")
yield
time.sleep(0.5)
def work2():
while True:
print("----work2---")
yield
time.sleep(0.5)
def main():
w1 = work1()
w2 = work2()
while True:
next(w1)
next(w2)
if __name__ == "__main__":
main()
运行结果:
----work1---
----work2---
----work1---
----work2---
----work1---
----work2---
----work1---
----work2---
----work1---
----work2---
----work1---
----work2---
3. greenlet(了解)
为了更好使用协程来完成多任务,python中的greenlet模块对其封装,从而使得切换任务变的更加简单
#coding=utf-8
from greenlet import greenlet
import time
def test1():
while True:
print "---A--"
gr2.switch()
time.sleep(0.5)
def test2():
while True:
print "---B--"
gr1.switch()
time.sleep(0.5)
gr1 = greenlet(test1)
gr2 = greenlet(test2)
#切换到gr1中运行
gr1.switch()
运行效果
---A--
---B--
---A--
---B--
---A--
---B--
---A--
---B--
...省略...
4. gevent(重点)
greenlet已经实现了协程,但是这个还的人工切换,是不是觉得太麻烦了,不要捉急,python还有一个比greenlet更强大的并且能够自动切换任务的模块gevent
其原理是当一个greenlet遇到IO(指的是input output 输入输出,比如网络、文件操作等)操作时,比如访问网络,就自动切换到其他的greenlet,等到IO操作完成,再在适当的时候切换回来继续执行。
由于IO操作非常耗时,经常使程序处于等待状态,有了gevent为我们自动切换协程,就保证总有greenlet在运行,而不是等待IO
import time
import gevent
from gevent import monkey
# 有耗时操作时需要
# 将程序中用到的耗时操作的代码,转换为gevent中自己实现的模块
gevent.monkey.patch_all()
def test(n):
for i in range(n):
print(gevent.getcurrent(), i)
time.sleep(0.5)
# g1 = gevent.spawn(test,10)
# g1.join()
gevent.joinall([
gevent.spawn(test, 10),
gevent.spawn(test, 5),
gevent.spawn(test, 3)
])
5. 多任务下载
# -*- coding:utf-8 -*-
# Author GaoYuan
import urllib.request
import gevent
import ssl
# 解决https图片下载问题
ssl._create_default_https_context = ssl._create_unverified_context
def download(name, url):
print("%s 开始下载..." % name)
req = urllib.request.urlopen(url)
img_content = req.read()
with open("/Users/gaoyuan/Desktop/" + name, "wb") as f:
f.write(img_content)
gevent.joinall([
gevent.spawn(download, "1.mp4",
"http://jzvd.nathen.cn/c6e3dc12a1154626b3476d9bf3bd7266/6b56c5f0dc31428083757a45764763b0"
"-5287d2089db37e62345123a1be272f8b.mp4"),
gevent.spawn(download, "2.mp4",
"http://jzvd.nathen.cn/c6e3dc12a1154626b3476d9bf3bd7266/6b56c5f0dc31428083757a45764763b0"
"-5287d2089db37e62345123a1be272f8b.mp4")
])
网友评论