美文网首页
shell脚本(5)一团乱麻?没这回事

shell脚本(5)一团乱麻?没这回事

作者: 盖小聂 | 来源:发表于2019-05-28 23:37 被阅读0次
1、wget命令行下载工具
wget URL
参数 描述
-O 指定输出文件名,如果存在同名的文件会覆盖该文件
-o 指定日志文件
-t 指定重试次数,t为0表示不停的重试
-limit-rate 下载限速
-Q 指定最大下载配额
-c 断点续传
--user/--password 访问需要认证的HTTP或FTP页面
--ask-password 可以不在命令行中指定密码,而由网页提供并手动输入密码
//-O选项指定输出文件名,如果存在同名的文件会覆盖该文件;-o选项指定日志文件
wget ftp://example_domain.com/somefile.img -O dloaded_file.img -o log 

//-t选项指定重试次数,重试5次
wget -t 5 URL

//不停的重试
wget -t 0 URL

//--limit-rate选项下载限速
wget --limit-rate 20k http://example.com/file.iso 

//-Q选项指定最大下载配额
wget -Q 100m http://example.com/file1 http://example.com/file2 

//-c选项断点续传
wget -c URL 

//--user/--password选项访问需要认证的HTTP或FTP页面
wget --user username --password pass URL
2、curl入门

作为一款强力工具,curl支持包括HTTP,HTTPS,FTP在内的众多协议。它还支持POST,cookie,认证,从指定偏移处下载部分文件,参照页(referer),用户代理字符串,扩展头部,限速,文件大小限制,进度条等特性。

curl URL
参数 描述
-silent 不打印输出日志
-O 表明下载数据写入文件,而非标准输出中。该文件采用的是从URL中解析出的文件名
-o 指定下载文件名。大小o选项同wget命令的用作不太一样,wget中大O指定下载的文件名,小o指定日志文件
-progress 显示下载进度
-C 表示断点续传
-referer 设置参照页字符串。从A网页打开一个链接进入B网页,B网页可以通过referer参数知道自己的上一个网页是谁,这里的referer就是A网页,比如我们知道B网页是来自google,就可以在B网页加上一个google的logo。
-cookie 指定cookie,cookie包含在双引号中,以key=value的形式,多组key=value以分号隔开
-user-agent 指定userAgent
-H 可以设置HTTP请求header的参数信息
-limit-rate 设置下载速度
-max-filesize 指定可下载的最大文件大小
-u 用于用户认证,同wget的--user/--password
-l 只打印响应头部信息(不包括数据部分)
//--silent: 不打印输出日志
curl URL --silent

//选项-O表明下载数据写入文件,而非标准输出中。该文件采用的是从URL中解析出的文件名
curl URL --silent -O 

//-o指定下载文件名,--progress显示下载进度
//大小o选项同wget命令的用作不太一样,wget中大O指定下载的文件名,小o指定日志文件
curl http://slynux.org -o index.html --progress 

//-C选项表示断点续传
curl URL/file -C offset 

//curl会推断出正确的断点位置下载文件
curl -C - URL 

//--referer设置参照页字符串。
//从A网页打开一个链接进入B网页,B网页可以通过referer参数知道自己的上一个网页是谁,
//这里的referer就是A网页,比如我们知道B网页是来自google,
//就可以在B网页加上一个google的logo。
curl --referer Referer_URL target_URL 
curl --referer http://google.com http://slynux.org

//--cookie选项指定cookie,cookie包含在双引号中,以key=value的形式,
//多组key=value以分号隔开
curl http://example.com --cookie "user=slynux;pass=hack" 

//--user-agent选项指定userAgent
curl URL --user-agent "Mozilla/5.0" 

//-H选项可以设置HTTP请求header的参数信息
curl -H "Host:www.slynux.org" -H "Accept-language: en" URL 

//--limit-rate选项设置下载速度,同wget
curl URL --limit-rate 20k 

//--max-filesize选项指定可下载的最大文件大小,同wget的-Q选项
curl URL --max-filesize bytes

//-u选项用于用户认证,同wget的--user/--password
curl -u user:pass http://test_auth.com 

//提示后输入密码,同wget的--ask-password
curl -u user http://test_auth.com 

//-I选项只打印响应头部信息(不包括数据部分)
curl -I http://slynux.org 

相关文章

  • shell脚本(5)一团乱麻?没这回事

    1、wget命令行下载工具 2、curl入门 作为一款强力工具,curl支持包括HTTP,HTTPS,FTP在内的...

  • wget、cURL网站相关

    《LinuxShell脚本攻略》笔记,Chap-5: 一团乱麻?没这回事 入门 本章会研究一些用于解析网站内容、下...

  • Shell编程、part1

    1.shell简介2. shell分类3. 查看shell4. 第一个shell脚本5. shell编程常用命令5...

  • Shell入门笔记

    Shell脚本:Linux Shell脚本学习指南菜鸟教程 - Shell教程Linux入门 - Shell脚本是...

  • 2018-09-26

    shell脚本 1.1、什么是shell脚本(shell script , ...

  • Shell script + crontab实现Mysql定时备

    一、Shell 脚本 Shell 脚本(shell script),是一种为 shell 编写的脚本程序。 业界所...

  • 嵌入式day12

    shell脚本的本质 shell脚本语言是解释型语言 shell脚本的本质:shell命令的有序集合 shell编...

  • shell脚本

    什么是shell脚本 Shell 脚本(shell script),是一种为 shell 编写的脚本程序。业界所说...

  • Shell脚本语法

    1. Shell脚本简介Shell 脚本(shell script),是一种为 shell 编写的脚本程序。业界所...

  • shell脚本

    什么是Shell脚本 Shell脚本(英语:Shell script),又称Shell命令稿、程序化脚本,是一种电...

网友评论

      本文标题:shell脚本(5)一团乱麻?没这回事

      本文链接:https://www.haomeiwen.com/subject/zurvaqtx.html