美文网首页Python_SEO
Python爬虫获取网页上的链接

Python爬虫获取网页上的链接

作者: phpCN中文网 | 来源:发表于2019-06-24 14:11 被阅读0次

    Beautiful Soup是python的一个库,最主要的功能是从网页抓取数据。利用Beautiful Soup可以对网页进行解析,提取所有的超链接。

    Beautiful Soup提供一些简单的、python式的函数用来处理导航、搜索、修改分析树等功能。它是一个工具箱,通过解析文档为用户提供需要抓取的数据,因为简单,所以不需要多少代码就可以写出一个完整的应用程序。

    Beautiful Soup自动将输入文档转换为Unicode编码,输出文档转换为utf-8编码。你不需要考虑编码方式,除非文档没有指定一个编码方式,这时,Beautiful Soup就不能自动识别编码方式了。然后,你仅仅需要说明一下原始编码方式就可以了。

    Beautiful Soup已成为和lxml、html6lib一样出色的python解释器,为用户灵活地提供不同的解析策略或强劲的速度。

    BeautifulSoup支持Python标准库中的HTML解析器,还支持一些第三方的解析器,如果我们不安装它,则 Python 会使用 Python默认的解析器,lxml 解析器更加强大,速度更快,推荐使用lxml 解析器。

    本文实例讲述了python使用BeautifulSoup分页网页中超链接的方法。分享给大家供大家参考。具体如下:

    python通过BeautifulSoup分析网页中的超链接


    from BeautifulSoup import BeautifulSoup

    import urllib2

    import re

    url = urllib2.urlopen("http://www.bitsCN.com")

    content = url.read()

    soup = BeautifulSoup(content)

    for a in soup.findAll('a',href=True):

      if re.findall('sharejs', a['href']):

        print "Found the URL:", a['href']


    文章参考:https://www.py.cn/jishu/spider/10466.html

    相关文章

      网友评论

        本文标题:Python爬虫获取网页上的链接

        本文链接:https://www.haomeiwen.com/subject/etonqctx.html