美文网首页
shell入门24-基于sed的两个爬虫脚本

shell入门24-基于sed的两个爬虫脚本

作者: 万州客 | 来源:发表于2023-01-05 09:37 被阅读0次

    实践出真知,感觉这两个脚本还有很多优化的空间。

    一,爬取tmooc.cn网站的首页图片

    cat tmooc.sh 
    #!/bin/bash
    # 功能描述:编写脚本抓取单个网页中的图片数据
    
    page="https://www.tmooc.cn"
    URL="/tmp/spider_$$.txt"
    
    curl -s $page > $URL
    
    echo -e "\033[32m正在获取种子URL,请稍后。。。\033[0m"
    sed -i '/<img/!d' $URL
    sed -i 's/.*src="//' $URL
    sed -i 's/".*//' $URL
    echo
    
    cat $URL
    
    echo -e "\033[32m正在批量下载种子数据,请稍后。。。\033[0m"
    for i in $(cat $URL); do
      echo "wget -P /tmp/ -c -q $i"
    done
    
    rm -rf $URL
    

    输出:

    bash  tmooc.sh 
    正在获取种子URL,请稍后。。。
    
    正在批量下载种子数据,请稍后。。。
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/tmooc-web/css/img/tmooc-logo.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/tmooc-web/css/img/tmooc-logo2.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/tmooc-web/css/img/user-head.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///c079cd3ec3154c62916dc864095ef0ae.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///40d6f6da36cf497586b29f3d9069f2fa.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///5302df23e4ec4fc88216f2127c438c3b.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///b96d40ef6562489882fbd7dac9394335.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///486CFA775C7244D49E6E0D550C31A6E8.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///69980B7CC2634E61870DFE605C3A6C85.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/tmooc-web/imgad/2018/6/4//AF73F4970A64405295A768B17AE58F04.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///EE0DE5C881684542B3D0875CF97CAA5D.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///37FACE09F5404EDA95E9D0F4D76668D0.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///CC18466FADF74D3A87FDA5A17AAF4D83.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//courseImg///A39738762E2741B2892D358B5C6500C1.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///a91007b4195a4a4dba2cc6136bb992db.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///4d09a706a83741f8b9f303196af69862.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///01535b1f83684f27a2725ffbbdfe06d6.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///2d312700f1b14fbfa123dfa0ae987bdf.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///c43013e369114c04b5c6070eab9395bb.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///047cbbe2ae9d4cb2989b386f5086b551.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///dd9d30cc82b44b3cbcd44b75e26c25f2.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///960b62b8c7d14a8db1744fb6543a1008.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///533cfbbc95e74f44875e46ca66197c6a.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///827cfdad82dc47f4a9e74ee283368d72.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///38ca5a3b642a46ce87b31386312306e8.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///b79c8a33815b4de7ac067e795ebca382.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///610d806a57e64eb38c6e0d101e0363ca.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///17a5069fdce747a6ae107cb6c2db1199.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///b0bd4fb23c3e41d5a88c6df570f52ae7.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///fff1186ad2ae4b0790825eae784cb041.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///281d749e5acc4c7686ac76bd11589134.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///09a6c091745743779a469b1de82987be.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///acf41aa9919c43628b1d06430f3367a7.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//courseImg///5f791c0985cc4a67a5c4dca6627155b0.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//courseImg///d7018e5f28764959969f4ff439fe95b1.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//courseImg///f93f25fba0a84f72be47f5058f84a655.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//courseImg///c875e07de3204bffb6f1964786bcb88c.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//courseImg///00c7d36bf7a24045950fbfcf9a7dc436.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///B6C9118E3E604AC6BDA8A8F3DB2A981B.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///8D4204DFC45C40BCBF68150E442E1D18.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//courseImg///94D557C1DBB44FDA909B3B2BDC433A28.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//courseImg///C564BF79E60A4230B67F23553702F025.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/tmooc-web/courseImg/2018/6/15//25D64D24BF544A2FB2FFD0FA328B70F0.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//courseImg///f044221ee737404e91584a4d083764bd.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//courseImg///8329fc85088b4d248e7c5d06265c5b5e.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//courseImg///71528d307b3c4e07a9d3b96efc697cca.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//courseImg///e9035a559c4742599d8ac6cd40745dbe.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//courseImg///b08d6ce3876d45088296085e4761dd09.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//courseImg///3787bfdad0f747519088d6056b0d9f48.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//courseImg///731178a423b34b019be4a559d53d631f.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//courseImg///566c24a4357144e3a412092ea5aff3c6.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///cc9e1a5de9dd4a038d5d4f9b99b07613.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//courseImg///485a79884744425f98e3fd403d9e1cb9.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/bsfile//imgad///0FEB40D436DE46FABB6F895795FC6CB3.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/tmooc-web/css/img/img_index_lty01.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/tmooc-web/css/img/img_index_lty02.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/tmooc-web/css/img/img_index_lty04.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/tmooc-web/css/img/img_index_lty03.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/tmooc-web/css/img/img_index_lty05.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/tmooc-web/css/img/erweima.jpg
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/tmooc-web/css/img/jianguan.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/tmooc-web/css/img/beianh2019082901.png
    wget -P /tmp/ -c -q https://cdn.tmooc.cn/tmooc-web/css/img/img2018042301_ll.png
    wget -P /tmp/ -c -q <img
    wget -P /tmp/ -c -q id=
    

    二,

    相关文章

      网友评论

          本文标题:shell入门24-基于sed的两个爬虫脚本

          本文链接:https://www.haomeiwen.com/subject/sowccdtx.html