美文网首页python标准库threading源码解读
python标准库threading源码解读【一】

python标准库threading源码解读【一】

作者: 甘蔗JS | 来源:发表于2020-01-27 20:21 被阅读0次

    转载自本人知乎:https://zhuanlan.zhihu.com/p/92702108

    目录

    1.with

    2.condition

    3.semaphore


    1. with

    还是有必要先讲解一下with的用法。它管理着类的“前世后生”,也就是在进入和退出类的时候调用。当然不是什么类都能够使用“with”:它必须实现两种“特殊方法”,即enter()和exit();字面意思就可以看出来“入口”和“出口”。

    基本用法:紧跟with后面的语句被求值后,返回对象的 enter() 方法被调用,这个方法的返回值将被赋值给as后面的变量。当with后面的代码块全部被执行完之后,将调用前面返回对象的 exit()方法。

    such as:

    而在threading中,with常常和“锁”连用,常用方法如下:

    with Lock as lock:

        XXX

        XXX

    print(“END”)

    # Just Like:

    lock = Lock()

    lock.acquire() # Notice!

    XXX

    XXX

    print(“END”)

    lock.release() # Notice!

    我们在下面的源码中会经常看到。

    2. condition

    condition的本质也是一把“锁”,而且是个“递归锁”。最重要的是,它提供了wait()和notify()方法,而wait()方法就是利用“递归锁”,采用两级锁的方法实现了线程的等待。codition有两级锁,一把一级锁会在进入wait方法的时候释放,离开wait方法的时候再次获取,二级锁会在每次调用wait时分配一个新的锁,并放入condition的等待队列中,而notify负责释放这个锁。如下图:


    源码(2-1/3)

    class Condition:

       def init(self, lock=None):

           if lock is None:

               lock = RLock()

           self.lock = lock

           # Export the lock’s acquire() and release() methods

           self.acquire = lock.acquire

           self.release = lock.release

           # If the lock defines releasesave() and/or acquirerestore(),

           # these override the default implementations (which just call

           # release() and acquire() on the lock). Ditto for isowned().

           try:

               self.releasesave = lock.releasesave

           except AttributeError:

               pass

           try:

               self.acquirerestore = lock.acquirerestore

           except AttributeError:

               pass

           try:

               self.isowned = lock.isowned

           except AttributeError:

               pass

           self.waiters = deque()

       def enter(self):

           return self.lock.enter()

       def exit(self, args):

           return self.lock._exit(args)

       def repr(self):

           return “” % (self.lock, len(self.waiters))

       def releasesave(self):

           self.lock.release()           # Nostate to save

       def acquirerestore(self, x):

           self.lock.acquire()           #Ignore saved state

       def isowned(self):

           # Return True if lock is owned by current_thread.

           # This method is called only if _lock doesn’t have _is_owned().

           if self._lock.acquire(0):

               self._lock.release()

               return False

           else:

               return True

    上述包括:__init__(), __enter__(), __exit__(), __repr__(), _release_save(), _acquire_restore(), _is_owned();

    (1).__enter__(), __exit__():直接继承于Lock的上下文管理方式;

    (2).__repr__():特殊方法之一,好像是将condition类用str字符串的方法输出时候,调用此方法

    (3)._is_owned():如果一级锁由当前线程获得,返回True。它是怎么判断的呢?

    他首先尝试获得一级锁,如果可以获得,那就说明当前线程没有锁,立马释放掉,返回false;反之,返回True;

    (4)._release_save(), _acquire_restore():

    release_save = lock.release(),释放掉一级锁,保存状态

    _acquire_restore = lock.acquire(),恢复一级锁

    (5).__init__():如果lock为none,则创建一个;

    定义lock,即为一级锁;condition类继承locktype的acquire()和release()方法;这些都是非常有用的,且必须的!(废话吗这不是2333333)

    如果lock类型定义了_release_save和_acquire_restore尝试重载他们;重载不掉就过,说明lock类型里面就有这种方式,则直接pass;

    (6).定义 _waiters 双端队列,注意文件开头的:from collection import deque as _deque.

    源码(2-2/3)

    (1).wait()用于阻塞本线程,直到其他线程调用notify()唤醒或者timeout结束

    Line2-3:线程想等待,自己要有锁吧;所以判断当前线程是否有锁,没有就抛出异常;

    Line4-6:再定义一个lock方法,变量waiter,并获得这个二级锁(注意,RLock是递归锁,可以嵌套);把这个锁添加进全局私有_waiter 集合最后

    Line7:saved_state = self._release_save(),保存状态,释放一级锁;可以让其他线程获得,这样才能调用notify();

    Line8:定义一个bool类型的返回值gotit;

    Line9-18:直接进入“try”

    如果timeout == None,waiter上锁,线程就此阻塞,并且gotit = true ,等待有效;

    否则判断timeout的正负性,如果正的,就获得锁线程就此阻塞,返回True赋值给gotit;反之返回False,等待失败;

    Line19-25:try……finally……语句通常与资源回收有关

    不管try是否含有return,不管try是否抛出异常,finally都会return之前执行。

    注意到wait()有可能被用户和系统中断,导致没有上锁的waiter进入了_waiters队列:

    finally中首先尝试恢复线程一级锁,也就是等待其他线程释放一级锁;没有就会一直等待。也就是说,调用notify函数的线程一定要释放掉底层锁,其他线程才会继续执行。

    进一步判断gotit,如果为False,说明waiter没有释放,我们从_waiters中剔除它,注意他会和下面的notify()函数同时尝试,报错的话pass就行。

    (2).wait_for()断言等待函数

    Line27-29:定义了变量 endtime 结束时间和 waittime 等待时间,分别初始化为:None和传入的参数timeout。

    result 获得断言的返回值,值得注意的是,断言的运行也是需要不少时间的,这个时间可能超过线程期望等待时间,下面就是要解决此问题。

    Line30-40:断言为False则进入循环;

    首先waittime,也就是timeout,不能是None;如果是None,那就没啥好说的,直接等待吧;如果不是才要继续判断。

    在第一次进入循环的时候,计算出剩余的等待时间(扣除第一次等待断言返回的时间)。

    这个时间太长就不能等待了;否则的话,等待剩余时间waittime,进而再计算断言;不管断言结果如何,都只能跳出循环了,因为waittime一定是<=0的。

    3. semaphore

    源码(3-1/3)

    Semaphore,俗称信号量管理器,可以传入参数value,默认为1,当然他不等小于0;

    首先实例化一个Semaphore类,判断value是否大于0,定义一个私有锁_Condition、和私有变量_value。

    源码(3-2/3)

    acquire(), release():这个类中的acquier和release函数并不是传统意义上的获得锁和释放锁,他们在各自方法中分别获得、释放了一次锁。

    维护了一个counter计数:它等于 = release()调用次数acquire()调用的数量 + 初始值。例如:当n个线程获得锁,acquire调用了n次,一次都没有调用release()的情况下,n不能大于value。

    参数blocking:必要时可以阻止acquire()方法,直到线程返回并且计数器大于0。

    注意acquire()函数过程判断传入参数,如果不能阻塞并且timeout还不为none,那肯定报错了。

    定义rc返回值、定义endtime;endtime和timeout相互作用的方式,和wait_for()一样;

    假设两个线程t1和t2。默认情况下,value = 1,t1获得私有锁,while循环不成立,value – 1,rc = True,释放私有锁;此时t2一直等待获得私有锁;但是t1释放私有锁之后,有两种可能:

    (1)t2获得,并且value = 0

    那么t2进入wait()等待,牛逼的是,进入wait后,会释放一级锁!

    释放一级锁之后,t1中的release()就会获得;进一步调用notify函数唤醒t2!

    (2)t1的release()获得

    这种情况就相当于两个线程各玩各的,互不干扰,没有线程可以唤醒,notify()直接pass就ok!

    我画了个简图:

    release()函数过程

    value加一,调用notify,唤醒一个线程;

    __enter__()和__exit__()魔法方法:使得类可以使用“with”上下文管理;其中__exit__()指向release(),还type,value,traceback三个参数,在with抛出异常的时候,分别表示异常的:类型,值和位置;不过也没利用起来😂

    继承类BoundedSemaphore

    源码(3-3/3)

    继承于Semaphore。

    实例化此类,首先创建一个Semaphore类,和一个私有变量_initial_value,表示初始化的_value值;

    重载了Semaphore的release()方法;

    而私有变量_initial_value的作用便在这里体现出来,就是release调用不能多于acquier,否则就报错!

    后面的就和父类一样了鸭~

    相关文章

      网友评论

        本文标题:python标准库threading源码解读【一】

        本文链接:https://www.haomeiwen.com/subject/ihbethtx.html