美文网首页shell
shell并行下载数据

shell并行下载数据

作者: sober01 | 来源:发表于2017-06-09 16:53 被阅读6次

    版本一:无并行

    
    for i in {1..12}
    
    do
    
    {
    
    echo start `date`
    
    wget ftp://ftp.ncbi.nih.gov/snp/organisms/rice_4530/VCF/vcf_chr_${i}.vcf.gz
    
    echo end `date`
    
    }
    
    done
    
    cat *vcf.gz>rice_4530.vcf.gz
    
    rm vcf_chr*
    
    

    runtime=673s

    版本二:并行

    
    for i in {1..12}
    
    do
    
    {
    
    echo start `date`
    
    wget ftp://ftp.ncbi.nih.gov/snp/organisms/rice_4530/VCF/vcf_chr_${i}.vcf.gz
    
    echo end `date`
    
    } &
    
    done
    
    wait
    
    cat *vcf.gz>rice_4530.vcf.gz
    
    rm vcf_chr*
    
    

    runtime=191s

    并行下载的速度比无并行快3倍左右。

    相关文章

      网友评论

        本文标题:shell并行下载数据

        本文链接:https://www.haomeiwen.com/subject/dnjfqxtx.html