美文网首页程序员
使用linux的curl命令访问带有&的url时候出错的

使用linux的curl命令访问带有&的url时候出错的

作者: 430e88caaec1 | 来源:发表于2017-05-13 21:36 被阅读1002次

本人今天在用php写爬虫的时候,想定时爬取知乎精选的文章,但是,在写定时任务的时候,发现写了一个curl命令(这条命令是:curl http://xxx.com/index.php?c=study&a=index)之后(爬取的一个网站带有字符&,例如:http://xxx.com/index.php?c=study&a=index这个url里面含有&),一直没有按照我所定的时间去爬取文章。当时在crontab里面写curl命令的时候也没说是curl的命令里面写错了,于是乎,我就一直以为是定时的某个地方出问题了。然而一直没找到问题所在。

折腾了很久我就想算了,要不我直接输入curl命令下载那个网页试试,当我手动输入的时候,我很兴奋,因为它没有把网页下载成功。所以,我锁定了问题的范围。问题不是处在定时上面,而是处在curl这条命令上面。

然后我就想,要不我爬取那个网页的前面一个页面吧,也就是http://xxx.com/index.php?c=study

我惊奇的发现,下载成功了!

所以,我又缩小了问题的范围,问题出在了这个url的写法里面

然后我问了问万能的网友们,说&是特殊字符,在linux系统中&会使进程系统后台运行, 加引号相当于申明地址为字符串

(本人是名大二学生,所用的服务端语言是php,希望能够认识那些用php做很厉害事情的人)

相关文章

  • 使用linux的curl命令访问带有&的url时候出错的

    本人今天在用php写爬虫的时候,想定时爬取知乎精选的文章,但是,在写定时任务的时候,发现写了一个curl命令(这条...

  • curl命令详解

    linux命令之curl curl命令详解 1、curl命令简介 curl命令是一个利用URL规则在命令行下工作的...

  • Linux curl

    Linux curl命令详解 命令:curl 在Linux中curl是一个利用URL规则在命令行下工作的文件传输工...

  • curl 命令的简单使用笔记

    一、curl 命令的简单使用介绍 Curl命令在linux操作系统中经常来测试网络和url的联通性,模拟正常的网络...

  • curl 命令工具的使用

    curl 命令详解 curl的命令全称是client url 就是模仿客户端访问url的一种命令行方式,比较方便快...

  • Linux 查看服务器开放的端口号

    Linux 查看服务器开放的端口号 使用curl法测试远程主机端口是否开放 1curl是利用URL语法在命令行方式...

  • linux命令:curl 利用url在命令行中保存文件的命令HTML5:mutation observer htm...

  • 安装yasm (汇编编译器)和 nasm

    一 、关于curl 命令 curl 是一款实用的URL命令行网络通讯工具/库,使用curl 命令可以执行常用的ht...

  • curl 命令

    curl linux一个利用url规则进行文件传输的命令 下载单个文件,默认输出到STDOUT curl http...

  • 210629:Linux中使用curl命令发送带参数的get请求

    一. Linux中使用curl命令发送带参数的get请求和post请求 1. GET请求 curl命令 + 请求接...

网友评论

    本文标题:使用linux的curl命令访问带有&的url时候出错的

    本文链接:https://www.haomeiwen.com/subject/zxlfxxtx.html