美文网首页
python系统编程3

python系统编程3

作者: TENG书 | 来源:发表于2017-06-12 21:58 被阅读0次

    线程

    1.同步概念

    1.多线程开发可能遇到的问题

    同步不是一起的意思,是协同步调

    假设两个线程t1和t2都要对num=0进行增1运算,t1和t2都各对num修改10次,num的最终的结果应该为20。

    但是由于是多线程访问,有可能出现下面情况:

    在num=0时,t1取得num=0。此时系统把t1调度为”sleeping”状态,把t2转换为”running”状态,t2也获得num=0。然后t2对得到的值进行加1并赋给num,使得num=1。然后系统又把t2调度为”sleeping”,把t1转为”running”。线程t1又把它之前得到的0加1后赋值给num。这样,明明t1和t2都完成了1次加1工作,但结果仍然是num=1。

    from threading import Thread

    import time

    g_num = 0

    def test1():

        global g_num

        for i in range(1000000):

            g_num += 1

        print("---test1---g_num=%d"%g_num)

    def test2():

        global g_num

        for i in range(1000000):

            g_num += 1

        print("---test2---g_num=%d"%g_num)

    p1 = Thread(target=test1)

    p1.start()

    # time.sleep(3) #取消屏蔽之后 再次运行程序,结果会不一样,,,为啥呢?

    p2 = Thread(target=test2)

    p2.start()

    print("---g_num=%d---"%g_num)

    运行结果(可能不一样,但是结果往往不是2000000):

    ---g_num=284672---

    ---test1---g_num=1166544

    ---test2---g_num=1406832

    取消屏蔽之后,再次运行结果如下:

    ---test1---g_num=1000000

    ---g_num=1041802---

    ---test2---g_num=2000000

    问题产生的原因就是没有控制多个线程对同一资源的访问,对数据造成破坏,使得线程运行的结果不可预期。这种现象称为“线程不安全”。

    2. 什么是同步

    同步就是协同步调,按预定的先后次序进行运行。如:你说完,我再说。

    "同"字从字面上容易理解为一起动作

    其实不是,"同"字应是指协同、协助、互相配合。

    如进程、线程同步,可理解为进程或线程A和B一块配合,A执行到一定程度时要依靠B的某个结果,于是停下来,示意B运行;B依言执行,再将结果给A;A再继续操作。

    3. 解决问题的思路

    对于本小节提出的那个计算错误的问题,可以通过线程同步来进行解决

    思路,如下:

    1.系统调用t1,然后获取到num的值为0,此时上一把锁,即不允许其他现在操作num

    2.对num的值进行+1

    3.解锁,此时num的值为1,其他的线程就可以使用num了,而且是num的值不是0而是1

    4.同理其他线程在对num进行修改时,都要先上锁,处理完后再解锁,在上锁的整个过程中不允许其他线程访问,就保证了数据的正确性

    2.互斥锁

    当多个线程几乎同时修改某一个共享数据的时候,需要进行同步控制

    线程同步能够保证多个线程安全访问竞争资源,最简单的同步机制是引入互斥锁。

    互斥锁为资源引入一个状态:锁定/非锁定。

    某个线程要更改共享数据时,先将其锁定,此时资源的状态为“锁定”,其他线程不能更改;直到该线程释放资源,将资源的状态变成“非锁定”,其他的线程才能再次锁定该资源。互斥锁保证了每次只有一个线程进行写入操作,从而保证了多线程情况下数据的正确性。

    threading模块中定义了Lock类,可以方便的处理锁定:

    #创建锁

    mutex = threading.Lock()

    #锁定

    mutex.acquire([blocking])

    #释放

    mutex.release()

    其中,锁定方法acquire可以有一个blocking参数。

    如果设定blocking为True,则当前线程会堵塞,直到获取到这个锁为止(如果没有指定,那么默认为True)

    如果设定blocking为False,则当前线程不会堵塞

    使用互斥锁实现上面的例子的代码如下:

    例子1:

    from threading import Thread, Lock

    import time

    g_num = 0

    def test1():

        global g_num

        for i in range(1000000):

            #True表示堵塞 即如果这个锁在上锁之前已经被上锁了,那么这个线程会在这里一直等待到解锁为止 

            #False表示非堵塞,即不管本次调用能够成功上锁,都不会卡在这,而是继续执行下面的代码

            mutexFlag = mutex.acquire(True) 

            if mutexFlag:

                g_num += 1

                mutex.release()

        print("---test1---g_num=%d"%g_num)

    def test2():

        global g_num

        for i in range(1000000):

            mutexFlag = mutex.acquire(True) #True表示堵塞

            if mutexFlag:

                g_num += 1

                mutex.release()

        print("---test2---g_num=%d"%g_num)

    #创建一个互斥锁

    #这个所默认是未上锁的状态

    mutex = Lock()

    p1 = Thread(target=test1)

    p1.start()

    p2 = Thread(target=test2)

    p2.start()

    print("---g_num=%d---"%g_num)

    运行结果:

    ---g_num=61866---

    ---test1---g_num=1861180

    ---test2---g_num=2000000

    可以看到,加入互斥锁后,运行结果与预期相符。

    # Python主要通过标准库中的threading包来实现多线程

    import threading  

    import time

    import os

    def doChore():  # 作为间隔  每次调用间隔0.5s

        time.sleep(0.5)

    def booth(tid):

        global i

        global lock

        while True:

            lock.acquire()                      # 得到一个锁,锁定

            if i != 0:

                i = i - 1                       # 售票 售出一张减少一张

                print(tid, ':now left:', i)    # 剩下的票数

                doChore()

            else:

                print("Thread_id", tid, " No more tickets")

                os._exit(0)                     # 票售完   退出程序

            lock.release()                      # 释放锁

            doChore()

    #全局变量

    i = 15                      # 初始化票数

    lock = threading.Lock()     # 创建锁

    def main():

        # 总共设置了3个线程

        for k in range(3):

            # 创建线程; Python使用threading.Thread对象来代表线程

            new_thread = threading.Thread(target=booth, args=(k,))

            # 调用start()方法启动线程

            new_thread.start()

    if __name__ == '__main__':

    main()

    上锁解锁过程

    当一个线程调用锁的acquire()方法获得锁时,锁就进入“locked”状态。

    每次只有一个线程可以获得锁。如果此时另一个线程试图获得这个锁,该线程就会变为“blocked”状态,称为“阻塞”,直到拥有锁的线程调用锁的release()方法释放锁之后,锁进入“unlocked”状态。

    线程调度程序从处于同步阻塞状态的线程中选择一个来获得锁,并使得该线程进入运行(running)状态。

    总结

    锁的好处:

    确保了某段关键代码只能由一个线程从头到尾完整地执行

    锁的坏处:

    阻止了多线程并发执行,包含锁的某段代码实际上只能以单线程模式执行,效率就大大地下降了

    由于可以存在多个锁,不同的线程持有不同的锁,并试图获取对方持有的锁时,可能会造成死锁

    3.多线程-共享数据

    对于全局变量,在多线程中要格外小心,否则容易造成数据错乱的情况发生

    1. 非全局变量是否要加锁呢?

        #coding=utf-8

        import threading

        import time

        class MyThread(threading.Thread):

            # 重写 构造方法

            def __init__(self,num,sleepTime):

                threading.Thread.__init__(self)

                self.num = num

                self.sleepTime = sleepTime

            def run(self):

                self.num += 1

                time.sleep(self.sleepTime)

                print('线程(%s),num=%d'%(self.name, self.num))

        if __name__ == '__main__':

            mutex = threading.Lock()

            t1 = MyThread(100,5)

            t1.start()

            t2 = MyThread(200,1)

            t2.start()

    再看一个

    import threading

        from time import sleep

        def test(sleepTime):

            num=1

            sleep(sleepTime)

            num+=1

            print('---(%s)--num=%d'%(threading.current_thread(), num))

        t1 = threading.Thread(target = test,args=(5,))

        t2 = threading.Thread(target = test,args=(1,))

        t1.start()

        t2.start()

    小总结

    在多线程开发中,全局变量是多个线程都共享的数据,而局部变量等是各自线程的,是非共享的

    3.死锁

    1. 死锁

    在线程间共享多个资源的时候,如果两个线程分别占有一部分资源并且同时等待对方的资源,就会造成死锁。

    尽管死锁很少发生,但一旦发生就会造成应用的停止响应。下面看一个死锁的例子

    #coding=utf-8

    import threading

    import time

    class MyThread1(threading.Thread):

        def run(self):

            if mutexA.acquire():

                print(self.name+'----do1---up----')

                time.sleep(1)

                if mutexB.acquire():

                    print(self.name+'----do1---down----')

                    mutexB.release()

                mutexA.release()

    class MyThread2(threading.Thread):

        def run(self):

            if mutexB.acquire():

                print(self.name+'----do2---up----')

                time.sleep(1)

                if mutexA.acquire():

                    print(self.name+'----do2---down----')

                    mutexA.release()

                mutexB.release()

    mutexA = threading.Lock()

    mutexB = threading.Lock()

    if __name__ == '__main__':

        t1 = MyThread1()

        t2 = MyThread2()

        t1.start()

        t2.start()

    此时已经进入到了死锁状态,可以使用ctrl-z退出

    避免死锁

    程序设计时要尽量避免(银行家算法)

    添加超时时间等

    附录-银行家算法

    [背景知识]

    一个银行家如何将一定数目的资金安全地借给若干个客户,使这些客户既能借到钱完成要干的事,同时银行家又能收回全部资金而不至于破产,这就是银行家问题。这个问题同操作系统中资源分配问题十分相似:银行家就像一个操作系统,客户就像运行的进程,银行家的资金就是系统的资源。

    [问题的描述]

    一个银行家拥有一定数量的资金,有若干个客户要贷款。每个客户须在一开始就声明他所需贷款的总额。若该客户贷款总额不超过银行家的资金总数,银行家可以接收客户的要求。客户贷款是以每次一个资金单位(如1万RMB等)的方式进行的,客户在借满所需的全部单位款额之前可能会等待,但银行家须保证这种等待是有限的,可完成的。

    例如:有三个客户C1,C2,C3,向银行家借款,该银行家的资金总额为10个资金单位,其中C1客户要借9各资金单位,C2客户要借3个资金单位,C3客户要借8个资金单位,总计20个资金单位。某一时刻的状态如图所示。

    对于a图的状态,按照安全序列的要求,我们选的第一个客户应满足该客户所需的贷款小于等于银行家当前所剩余的钱款,可以看出只有C2客户能被满足:C2客户需1个资金单位,小银行家手中的2个资金单位,于是银行家把1个资金单位借给C2客户,使之完成工作并归还所借的3个资金单位的钱,进入b图。同理,银行家把4个资金单位借给C3客户,使其完成工作,在c图中,只剩一个客户C1,它需7个资金单位,这时银行家有8个资金单位,所以C1也能顺利借到钱并完成工作。最后(见图d)银行家收回全部10个资金单位,保证不赔本。那麽客户序列{C1,C2,C3}就是个安全序列,按照这个序列贷款,银行家才是安全的。否则的话,若在图b状态时,银行家把手中的4个资金单位借给了C1,则出现不安全状态:这时C1,C3均不能完成工作,而银行家手中又没有钱了,系统陷入僵持局面,银行家也不能收回投资。

    综上所述,银行家算法是从当前状态出发,逐个按安全序列检查各客户谁能完成其工作,然后假定其完成工作且归还全部贷款,再进而检查下一个能完成工作的客户,......。如果所有客户都能完成工作,则找到一个安全序列,银行家才是安全的。

    4.同步应用

    多个线程有序执行

    from threading import Thread,Lock

    from time import sleep

    class Task1(Thread):

        def run(self):

            while True:

                if lock1.acquire():

                    print("------Task 1 -----")

                    sleep(0.5)

                    lock2.release()

    class Task2(Thread):

        def run(self):

            while True:

                if lock2.acquire():

                    print("------Task 2 -----")

                    sleep(0.5)

                    lock3.release()

    class Task3(Thread):

        def run(self):

            while True:

                if lock3.acquire():

                    print("------Task 3 -----")

                    sleep(0.5)

                    lock1.release()

    #使用Lock创建出的锁默认没有“锁上”

    lock1 = Lock()

    #创建另外一把锁,并且“锁上”

    lock2 = Lock()

    lock2.acquire()

    #创建另外一把锁,并且“锁上”

    lock3 = Lock()

    lock3.acquire()

    t1 = Task1()

    t2 = Task2()

    t3 = Task3()

    t1.start()

    t2.start()

    t3.start()

    运行结果:

    ------Task 1 -----

    ------Task 2 -----

    ------Task 3 -----

    ------Task 1 -----

    ------Task 2 -----

    ------Task 3 -----

    ------Task 1 -----

    ------Task 2 -----

    ------Task 3 -----

    ------Task 1 -----

    ------Task 2 -----

    ------Task 3 -----

    ------Task 1 -----

    ------Task 2 -----

    ------Task 3 -----

    ...省略...

    总结

    可以使用互斥锁完成多个任务,有序的进程工作,这就是线程的同步

    5 生产者与消费者模式

    Python的Queue模块中提供了同步的、线程安全的队列类,包括FIFO(先入先出)队列Queue,LIFO(后入先出)队列LifoQueue,和优先级队列PriorityQueue。这些队列都实现了锁原语(可以理解为原子操作,即要么不做,要么就做完),能够在多线程中直接使用。可以使用队列来实现线程间的同步。

    用FIFO队列实现上述生产者与消费者问题的代码如下:

    #encoding=utf-8

    import threading

    import time

    #python2中

    #from queue import Queue

    #python3中

    from queue import Queue

    class Producer(threading.Thread):

        def run(self):

            global queue

            count = 0

            while True:

                if queue.qsize() < 1000:

                    for i in range(100):

                        count = count +1

                        msg = '生成产品'+str(count)

                        queue.put(msg)

                        print(msg)

                time.sleep(0.5)

    class Consumer(threading.Thread):

        def run(self):

            global queue

            while True:

                if queue.qsize() > 100:

                    for i in range(3):

                        msg = self.name + '消费了 '+queue.get()

                        print(msg)

                time.sleep(1)

    if __name__ == '__main__':

        queue = Queue()

        for i in range(500):

            queue.put('初始产品'+str(i))

        for i in range(2):

            p = Producer()

            p.start()

        for i in range(5):

            c = Consumer()

            c.start()

    3. Queue的说明

    1.对于Queue,在多线程通信之间扮演重要的角色

    2.添加数据到队列中,使用put()方法

    3.从队列中取数据,使用get()方法

    4.判断队列中是否还有数据,使用qsize()方法

    4. 生产者消费者模式的说明

    为什么要使用生产者和消费者模式

    在线程世界里,生产者就是生产数据的线程,消费者就是消费数据的线程。在多线程开发当中,如果生产者处理速度很快,而消费者处理速度很慢,那么生产者就必须等待消费者处理完,才能继续生产数据。同样的道理,如果消费者的处理能力大于生产者,那么消费者就必须等待生产者。为了解决这个问题于是引入了生产者和消费者模式。

    什么是生产者消费者模式

    生产者消费者模式是通过一个容器来解决生产者和消费者的强耦合问题。生产者和消费者彼此之间不直接通讯,而通过阻塞队列来进行通讯,所以生产者生产完数据之后不用等待消费者处理,直接扔给阻塞队列,消费者不找生产者要数据,而是直接从阻塞队列里取,阻塞队列就相当于一个缓冲区,平衡了生产者和消费者的处理能力。

    这个阻塞队列就是用来给生产者和消费者解耦的。纵观大多数设计模式,都会找一个第三者出来进行解耦,

    6.ThreadLocal

    在多线程环境下,每个线程都有自己的数据。一个线程使用自己的局部变量比使用全局变量好,因为局部变量只有线程自己能看见,不会影响其他线程,而全局变量的修改必须加锁。

    1. 使用函数传参的方法

    但是局部变量也有问题,就是在函数调用的时候,传递起来很麻烦:

    def process_student(name):

        std = Student(name)

        # std是局部变量,但是每个函数都要用它,因此必须传进去:

        do_task_1(std)

        do_task_2(std)

    def do_task_1(std):

        do_subtask_1(std)

        do_subtask_2(std)

    def do_task_2(std):

        do_subtask_2(std)

        do_subtask_2(std)

    每个函数一层一层调用都这么传参数那还得了?用全局变量?也不行,因为每个线程处理不同的Student对象,不能共享。

    2. 使用全局字典的方法

    如果用一个全局dict存放所有的Student对象,然后以thread自身作为key获得线程对应的Student对象如何?

    global_dict = {}

    def std_thread(name):

        std = Student(name)

        # 把std放到全局变量global_dict中:

        global_dict[threading.current_thread()] = std

        do_task_1()

        do_task_2()

    def do_task_1():

        # 不传入std,而是根据当前线程查找:

        std = global_dict[threading.current_thread()]

        ...

    def do_task_2():

        # 任何函数都可以查找出当前线程的std变量:

        std = global_dict[threading.current_thread()]

        ...

    这种方式理论上是可行的,它最大的优点是消除了std对象在每层函数中的传递问题,但是,每个函数获取std的代码有点low。

    有没有更简单的方式?

    3. 使用ThreadLocal的方法

    ThreadLocal应运而生,不用查找dict,ThreadLocal帮你自动做这件事:

    import threading

    # 创建全局ThreadLocal对象:

    local_school = threading.local()

    def process_student():

        # 获取当前线程关联的student:

        std = local_school.student

        print('Hello, %s (in %s)' % (std, threading.current_thread().name))

    def process_thread(name):

        # 绑定ThreadLocal的student:

        local_school.student = name

        process_student()

    t1 = threading.Thread(target= process_thread, args=('yongGe',), name='Thread-A')

    t2 = threading.Thread(target= process_thread, args=('老王',), name='Thread-B')

    t1.start()

    t2.start()

    t1.join()

    t2.join()

    执行结果:

    Hello, yongGe (in Thread-A)

    Hello, 老王 (in Thread-B)

    说明

    全局变量local_school就是一个ThreadLocal对象,每个Thread对它都可以读写student属性,但互不影响。你可以把local_school看成全局变量,但每个属性如local_school.student都是线程的局部变量,可以任意读写而互不干扰,也不用管理锁的问题,ThreadLocal内部会处理。

    可以理解为全局变量local_school是一个dict,不但可以用local_school.student,还可以绑定其他变量,如local_school.teacher等等。

    ThreadLocal最常用的地方就是为每个线程绑定一个数据库连接,HTTP请求,用户身份信息等,这样一个线程的所有调用到的处理函数都可以非常方便地访问这些资源。

    4. 小结

    一个ThreadLocal变量虽然是全局变量,但每个线程都只能读写自己线程的独立副本,互不干扰。ThreadLocal解决了参数在一个线程中各个函数之间互相传递的问题

    7 异步

    同步调用就是你 喊 你朋友吃饭 ,你朋友在忙 ,你就一直在那等,等你朋友忙完了 ,你们一起去

    异步调用就是你 喊 你朋友吃饭 ,你朋友说知道了 ,待会忙完去找你 ,你就去做别的了。

    from multiprocessing import Pool

    import time

    import os

    def test():

        print("---进程池中的进程---pid=%d,ppid=%d--"%(os.getpid(),os.getppid()))

        for i in range(3):

            print("----%d---"%i)

            time.sleep(1)

        return "hahah"

    def test2(args):

        print("---callback func--pid=%d"%os.getpid())

        print("---callback func--args=%s"%args)

    pool = Pool(3)

    pool.apply_async(func=test,callback=test2)

    time.sleep(5)

    print("----主进程-pid=%d----"%os.getpid())

    运行结果:

    ---进程池中的进程---pid=9401,ppid=9400--

    ----0---

    ----1---

    ----2---

    ---callback func--pid=9400

    ---callback func--args=hahah

    ----主进程-pid=9400----

    相关文章

      网友评论

          本文标题:python系统编程3

          本文链接:https://www.haomeiwen.com/subject/gjjrqxtx.html