美文网首页
python如何利用多进程来进行多文件复制copy

python如何利用多进程来进行多文件复制copy

作者: Oo晨晨oO | 来源:发表于2017-07-20 11:27 被阅读57次
    1. 要知道需要copy的文件夹名字,这个需要用户输入
    2. 创建新文件夹,存放复制后的文件
    3. 编写复制文件的函数
    4. 创建线程池,执行函数
    5. 加入通道,实现进度显示

    代码如下:

    import os
    from multiprocessing import Pool, Manager
    
    
    def copyFileTask(fileName, oldDir, newDir, queue):
    
        #当前进程id
        print("当前进程id : %d" % os.getpid())
    
        #读取文件与写入文件
        fr = open(oldDir + '/' + fileName)
        fw = open(newDir + '/' + fileName, "w")
        content = fr.read()
        fw.write(content)
    
        fr.close()
        fw.close()
        
        #当复制完一个文件,就把文件名扔进队列去
        queue.put(fileName)
    
    
    def main():
        #0. 获取用户要copy的文件夹的名字
        oldFolderName = input("请输入文件夹的名字 :")
    
    
        #1. 创建一个文件夹
        newFolderName = oldFolderName + "-附件"
        os.mkdir(newFolderName)
    
    
        #2. 获取old文件夹中的所有文件名字
        nameList = os.listdir("test")
    
    
        #3. 使用多线程方式copy所有文件到新文件夹中
        pool = Pool(5)
        
        #4. 创建个队列,实现进程间通信,主线程来计算进度
        queue = Manager().Queue()
    
        for item in nameList:
            print("开始 进行 --%s-- 的复制"%item)
            pool.apply_async(copyFileTask, (item, oldFolderName, newFolderName, queue))
    
        #在程序的最后,做个死循环,一直从queue中取数据,只要有数据就拿出来
        num = 0
        allNum = len(nameList)
        while True:
            name = queue.get()
            num += 1
            copyRate = num/allNum
            print("目前进度是 :  %.2f%%" % (copyRate*100))
            if num == allNum:
                break
    
        print("------copy 完毕-------")
    
    
    
    
    if __name__ == "__main__":
        main()
    

    执行结果:

    请输入文件夹的名字 :test
    开始 进行 --01-不定长参数.py-- 的复制
    开始 进行 --01-不定长参数的副本 2.py-- 的复制
    开始 进行 --01-不定长参数的副本.py-- 的复制
    开始 进行 --02-带返回值的.py-- 的复制
    开始 进行 --02-带返回值的的副本 2.py-- 的复制
    开始 进行 --02-带返回值的的副本.py-- 的复制
    开始 进行 --03-通用装饰器.py-- 的复制
    开始 进行 --03-通用装饰器的副本 2.py-- 的复制
    开始 进行 --03-通用装饰器的副本.py-- 的复制
    开始 进行 --04-带有参数的装饰器.py-- 的复制
    开始 进行 --04-带有参数的装饰器的副本 2.py-- 的复制
    开始 进行 --04-带有参数的装饰器的副本.py-- 的复制
    开始 进行 --05-生成器1.py-- 的复制
    开始 进行 --05-生成器1的副本 2.py-- 的复制
    开始 进行 --05-生成器1的副本.py-- 的复制
    开始 进行 --06-生成器2.py-- 的复制
    开始 进行 --06-生成器2的副本 2.py-- 的复制
    开始 进行 --06-生成器2的副本.py-- 的复制
    开始 进行 --07-for循环执行生成器.py-- 的复制
    开始 进行 --07-for循环执行生成器的副本 2.py-- 的复制
    开始 进行 --07-for循环执行生成器的副本.py-- 的复制
    开始 进行 --08-send方法.py-- 的复制
    开始 进行 --08-send方法的副本 2.py-- 的复制
    开始 进行 --08-send方法的副本.py-- 的复制
    开始 进行 --09-类装饰器.py-- 的复制
    开始 进行 --09-类装饰器的副本 2.py-- 的复制
    开始 进行 --09-类装饰器的副本.py-- 的复制
    开始 进行 --10-属性拦截器.py-- 的复制
    开始 进行 --10-属性拦截器的副本 2.py-- 的复制
    开�当前进程id : 86953
    当前进程id : 86955
    �� 进行 --10-属性拦截器的副本.py-- 的复制
    当前进程id : 86956
    当前进程id : 86957
    当前进程id : 86954
    开始 进行 --11-warps函数.py-- 的复制
    开始 进行 --11-warps函数的副本 2.py-- 的复制
    开始 进行 --11-warps函数的副本.py-- 的复制
    开始 进行 --12-多进程.py-- 的复制
    开始 进行 --12-多进程的副本 2.py-- 的复制
    开始 进行 --12-多进程的副本.py-- 的复制
    开始 进行 --13-process进程.py-- 的复制
    开始 进行 --13-process进程的副本 2.py-- 的复制
    开始 进行 --13-process进程的副本.py-- 的复制
    开始 进行 --14-多进程copy.py-- 的复制
    开始 进行 --14-多进程copy的副本 2.py-- 的复制
    开始 进行 --14-多进程copy的副本.py-- 的复制
    目前进度是 :  2.38%
    目前进度是 :  4.76%
    目前进度是 :  7.14%
    目前进度是 :  9.52%
    目前进度是 :  11.90%
    当前进程id : 86953
    当前进程id : 86956
    当前进程id : 86957
    当前进程id : 86955
    当前进程id : 86954
    目前进度是 :  14.29%
    目前进度是 :  16.67%
    目前进度是 :  19.05%
    目前进度是 :  21.43%
    目前进度是 :  23.81%
    当前进程id : 86953
    当前进程id : 86956
    当前进程id : 86957
    当前进程id : 86955
    当前进程id : 86954
    目前进度是 :  26.19%
    目前进度是 :  28.57%
    目前进度是 :  30.95%
    目前进度是 :  33.33%
    目前进度是 :  35.71%
    当前进程id : 86953
    当前进程id : 86956
    当前进程id : 86955
    当前进程id : 86957
    当前进程id : 86954
    目前进度是 :  38.10%
    目前进度是 :  40.48%
    目前进度是 :  42.86%
    目前进度是 :  45.24%
    目前进度是 :  47.62%
    当前进程id : 86953
    当前进程id : 86956
    当前进程id : 86955
    当前进程id : 86954
    当前进程id : 86957
    目前进度是 :  50.00%
    目前进度是 :  52.38%
    目前进度是 :  54.76%
    目前进度是 :  57.14%
    目前进度是 :  59.52%
    当前进程id : 86953
    当前进程id : 86956
    当前进程id : 86957
    当前进程id : 86954
    当前进程id : 86955
    目前进度是 :  61.90%
    目前进度是 :  64.29%
    目前进度是 :  66.67%
    目前进度是 :  69.05%
    目前进度是 :  71.43%
    当前进程id : 86956
    当前进程id : 86953
    当前进程id : 86954
    当前进程id : 86957
    目前进度是 :  73.81%
    当前进程id : 86955
    目前进度是 :  76.19%
    目前进度是 :  78.57%
    目前进度是 :  80.95%
    目前进度是 :  83.33%
    当前进程id : 86956
    当前进程id : 86953
    目前进度是 :  85.71%
    当前进程id : 86954
    当前进程id : 86957
    当前进程id : 86955
    目前进度是 :  88.10%
    目前进度是 :  90.48%
    目前进度是 :  92.86%
    当前进程id : 86956
    当前进程id : 86953
    目前进度是 :  95.24%
    目前进度是 :  97.62%
    目前进度是 :  100.00%
    ------copy 完毕-------
    

    相关文章

      网友评论

          本文标题:python如何利用多进程来进行多文件复制copy

          本文链接:https://www.haomeiwen.com/subject/pgydkxtx.html