美文网首页大数据 爬虫Python AI Sql
Python——爬虫入门XPath的使用

Python——爬虫入门XPath的使用

作者: Originalee | 来源:发表于2018-02-27 20:32 被阅读199次

    Xpath即为XML路径语言(XML Path Language)。它是一种用来确定XML文档中某部分位置的语言。

    XPath基于XML的树状结构,提供在数据结构树种找寻节点的能力。起初XPath的提出的初衷是将其作为一个通用的、介于XPointer与XSL间的语法模型。但是XPath很快的被开发者采用来当做小型查询语言。

    由于XPath确定XML文档中定位的能力,我们在用Python写爬虫时,常常使用XPath来确定HTML中的位置,辅助我们编写爬虫,抓取数据。

    节点

    在Xpath中,有七种类型的节点:元素、属性、文本、命名空间、处理指令、注释以及文档节点(或者称为根节点)。

    下面举几个节点的例子来说明:

    <?xml version="1.0" encoding="ISO-8859-1"?>
    
    <bookstore>
    
    <book>
      <title lang="en">Harry Potter</title>
      <author>J K. Rowling</author> 
      <year>2005</year>
      <price>29.99</price>
    </book>
    
    </bookstore>
    

    在上面的XML文档中:

    <bookstore>  (文档节点)
    <author>J K. Rowling</author> (元素节点)
    lang="en" (属性节点)
    

    表示法

    Xpath最常见的表达式就是路径表达式(XPath这一名称的另一来源)。路径表达式是从一个XML节点(当前的上下文节点)到另一个节点、或一组节点的书面步骤顺序。这些步骤以“/”字符分开,每一步有三个构成部分。

    • 轴描述(用最直接的方式接近目标节点)
    • 节点测试(用于筛选节点位置和名称)
    • 节点描述(用于筛选节点的属性和子节点特征)

    一般情况下,我们使用简写后的语法,虽然完整的轴描述是一种更加贴近人类语言,利用自然语言的单词和语法来书写的描述方式,但是相比之下也更加啰嗦。

    实例

    我们将在下面的例子中使用这个XML文档。

    <?xml version="1.0" encoding="ISO-8859-1"?>
    
    <bookstore>
    
    <book>
      <title lang="eng">Harry Potter</title>
      <price>29.99</price>
    </book>
    
    <book>
      <title lang="eng">Learning XML</title>
      <price>39.95</price>
    </book>
    
    </bookstore>
    

    我们来使用路径表达式在上面的XML文档中选取节点。

    节点是通过沿着路径或者step来选取的。

    下面表格列举的是最有用的路径表达式:

    表达式 描述
    nodename 选取此结点的所有节点
    / 从根节点选取
    // 从匹配选择的当前节点选择文档中的节点,而不考虑它们的位置。
    . 选取当前节点
    .. 选取当前节点的父节点
    @ 选取属性

    而下面的这个表格,我已经列出了一些路径表达式以及表达式的结果

    路径表达式 结果
    bookstore 选取 bookstore 元素的所有子节点
    /bookstore 选取根元素bookstore ps: 假如路径起始于正斜杠(/),则此路径始终代表到某元素的绝对路径
    bookstore/book 选取属于bookstore的子元素的所有book元素
    //book 选取所有book子元素,而不管它们在文档中的位置
    bookstore//book 选择属于bookstore元素的后代的所有book元素,而不管它们位于bookstore之下的什么位置
    //@lang 选取名为lang的所有属性

    通配符选用节点

    XPath通配符可用来选取未知的XML元素

    通配符 描述
    * 匹配任何元素节点
    @* 匹配任何属性节点
    node() 匹配任何类型的节点

    Python中的XPath库

    通过 Python 的 LXML 库利用 XPath 进行 HTML 的解析。

    lxml用法源自 lxml python 官方文档,更多内容请直接参阅官方文档,本文对其进行翻译与整理。

    安装lxml

    pip install lxml
    

    现在我们简单的介绍完了XPath的语法,对于爬虫的准备知识已经铺垫完毕了,从下一篇博客开始,就要进入爬虫的实战教程了。

    相关文章

      网友评论

        本文标题:Python——爬虫入门XPath的使用

        本文链接:https://www.haomeiwen.com/subject/ngzmxftx.html