美文网首页互联网科技
Python爬虫:爬取在线教程转成pdf

Python爬虫:爬取在线教程转成pdf

作者: 咖京学习 | 来源:发表于2019-05-25 22:58 被阅读1次

    作为一名程序员,经常要搜一些教程,有的教程是在线的,不提供离线版本,这就有些局限了。那么同样作为一名程序员,遇到问题就应该解决它,今天就来将在线教程保存为PDF以供查阅。

    1、网站介绍

    2、准备工作

    2.1 软件安装
    
    2.2 库安装
    

    3、爬取内容

    3.1 获取教程名称
    
    3.2 获取目录及对应网址
    
    3.3 获取章节内容
    
    3.4 保存pdf
    
    3.5 合并pdf
    

    1、网站介绍

    之前再搜资料的时候经常会跳转到如下图所示的在线教程:

    image

    01.教程样式

    包括一些github的项目也纷纷将教程链接指向这个网站。经过一番查找,该网站是一个可以创建、托管和浏览文档的网站,其网址为:https://readthedocs.org 。在上面可以找到很多优质的资源。

    该网站虽然提供了下载功能,但是有些教程并没有提供PDF格式文件的下载,如图:

    image

    02.下载

    该教程只提供了 HTML格式文件的下载,还是不太方便查阅,那就让我们动手将其转成PDF吧!

    2、准备工作

    2.1 软件安装

    由于我们是要把html转为pdf,所以需要手动wkhtmltopdf。Windows平台直接在 http://wkhtmltopdf.org/downloads.html 下载稳定版的 wkhtmltopdf 进行安装,安装完成之后把该程序的执行路径加入到系统环境 $PATH 变量中,否则 pdfkit 找不到 wkhtmltopdf 就出现错误 “No wkhtmltopdf executable found”。Ubuntu 和 CentOS 可以直接用命令行进行安装

    $sudo apt-get install wkhtmltopdf# ubuntu

    $sudo yum intsall wkhtmltopdf# centos

    2.2 库安装

    pip install requests # 用于网络请求

    pip install beautifulsoup4 # 用于操作html

    pip install pdfkit # wkhtmltopdf 的Python封装包

    pip install PyPDF2 # 用于合并pdf

    3、爬取内容

    本文的目标网址为:http://python3-cookbook.readthedocs.io/zh_CN/latest/

    3.1 获取教程名称

    页面的左边一栏为目录,按F12调出开发者工具并按以下步骤定位到目录元素:

    ① 点击开发者工具左上角"选取页面元素"按钮;

    ② 用鼠标点击左上角教程名称处。

    通过以上步骤即可定位到目录元素,用图说明:

    image

    03.寻找教程名称

    从图看到我们需要的教程名称包含在<div class="wy-side-nav-search"></div>之间的a标签里。假设我们已经获取到了网页内容为html,可以使用以下代码获取该内容:

    book_name = soup.find('div', class_='wy-side-nav-search').a.text

    3.2 获取目录及对应网址

    使用与 2.1 相同的步骤来获取:

    image

    04.定位目录及网址

    从图看到我们需要的目录包含在<div class="section"></div>之间,<li class="toctree-l1"></li>标签里为一级目录及网址;<li class="toctree-l2"></li>标签里为二级目录及网址。当然这个url是相对的url,前面还要拼接http://python3-cookbook.readthedocs.io/zh_CN/latest/

    使用BeautifulSoup进行数据的提取:

    全局变量

    base_url ='http://python3-cookbook.readthedocs.io/zh_CN/latest/'

    book_name =''

    chapter_info = []

    defparse_title_and_url(html):

    """

    解析全部章节的标题和url

    :param html: 需要解析的网页内容

    :return None

    """

    soup = BeautifulSoup(html,'html.parser')

    获取书名

    book_name = soup.find('div', class_='wy-side-nav-search').a.text

    menu = soup.find_all('div', class_='section')

    chapters = menu[0].div.ul.find_all('li', class_='toctree-l1')

    forchapterinchapters:

    info = {}

    获取一级标题和url

    标题中含有'/'和'*'会保存失败

    info['title'] = chapter.a.text.replace('/','').replace('*','')

    info['url'] = base_url + chapter.a.get('href')

    info['child_chapters'] = []

    获取二级标题和url

    ifchapter.ulisnotNone:

    child_chapters = chapter.ul.find_all('li')

    forchildinchild_chapters:

    url = child.a.get('href')

    如果在url中存在'#',则此url为页面内链接,不会跳转到其他页面

    所以不需要保存

    if'#'notinurl:

    info['child_chapters'].append({

    'title': child.a.text.replace('/','').replace('*',''),

    'url': base_url + child.a.get('href'),

    })

    chapter_info.append(info)

    代码中定义了两个全局变量来保存信息。章节内容保存在chapter_info列表里,里面包含了层级结构,大致结构为:

    [

    {

    'title':'first_level_chapter',

    'url':'www.xxxxxx.com',

    'child_chapters': [

    {

    'title':'second_level_chapter',

    'url':'www.xxxxxx.com',

    }

    ...

    ]

    }

    ...

    ]

    3.3 获取章节内容

    还是同样的方法定位章节内容:

    image

    05.获取章节内容

    代码中我们通过itemprop这个属性来定位,好在一级目录内容的元素位置和二级目录内容的元素位置相同,省去了不少麻烦。

    html_template ="""

    {content}

    """

    defget_content(url):

    """

    解析URL,获取需要的html内容

    :param url: 目标网址

    :return: html

    """

    html = get_one_page(url)

    soup = BeautifulSoup(html,'html.parser')

    content = soup.find('div', attrs={'itemprop':'articleBody'})

    html = html_template.format(content=content)

    returnhtml

    3.4 保存pdf

    defsave_pdf(html, filename):

    """

    把所有html文件保存到pdf文件

    :param html: html内容

    :param file_name: pdf文件名

    :return:

    """

    options = {

    'page-size':'Letter',

    'margin-top':'0.75in',

    'margin-right':'0.75in',

    'margin-bottom':'0.75in',

    'margin-left':'0.75in',

    'encoding':"UTF-8",

    'custom-header': [

    ('Accept-Encoding','gzip')

    ],

    'cookie': [

    ('cookie-name1','cookie-value1'),

    ('cookie-name2','cookie-value2'),

    ],

    'outline-depth':10,

    }

    pdfkit.from_string(html, filename, options=options)

    defparse_html_to_pdf():

    """

    解析URL,获取html,保存成pdf文件

    :return: None

    """

    try:

    forchapterinchapter_info:

    ctitle = chapter['title']

    url = chapter['url']

    文件夹不存在则创建(多级目录)

    dir_name = os.path.join(os.path.dirname(file),'gen', ctitle)

    ifnotos.path.exists(dir_name):

    os.makedirs(dir_name)

    html = get_content(url)

    padf_path = os.path.join(dir_name, ctitle +'.pdf')

    save_pdf(html, os.path.join(dir_name, ctitle +'.pdf'))

    children = chapter['child_chapters']

    ifchildren:

    forchildinchildren:

    html = get_content(child['url'])

    pdf_path = os.path.join(dir_name, child['title'] +'.pdf')

    save_pdf(html, pdf_path)

    exceptExceptionase:

    print(e)

    3.5 合并pdf

    在这推荐下小编创建的Python学习交流群729720844,可以获取Python入门基础教程,送给每一位小伙伴,这里是小白聚集地,每天还会直播和大家交流分享经验哦,欢迎初学和进阶中的小伙伴。

    经过上一步,所有章节的pdf都保存下来了,最后我们希望留一个pdf,就需要合并所有pdf并删除单个章节pdf。

    fromPyPDF2importPdfFileReader, PdfFileWriter

    defmerge_pdf(infnList, outfn):

    """

    合并pdf

    :param infnList: 要合并的PDF文件路径列表

    :param outfn: 保存的PDF文件名

    :return: None

    """

    pagenum =0

    pdf_output = PdfFileWriter()

    forpdfininfnList:

    先合并一级目录的内容

    first_level_title = pdf['title']

    dir_name = os.path.join(os.path.dirname(

    file),'gen', first_level_title)

    padf_path = os.path.join(dir_name, first_level_title +'.pdf')

    pdf_input = PdfFileReader(open(padf_path,'rb'))

    获取 pdf 共用多少页

    page_count = pdf_input.getNumPages()

    foriinrange(page_count):

    pdf_output.addPage(pdf_input.getPage(i))

    添加书签

    parent_bookmark = pdf_output.addBookmark(

    first_level_title, pagenum=pagenum)

    页数增加

    pagenum += page_count

    存在子章节

    ifpdf['child_chapters']:

    forchildinpdf['child_chapters']:

    second_level_title = child['title']

    padf_path = os.path.join(dir_name, second_level_title +'.pdf')

    pdf_input = PdfFileReader(open(padf_path,'rb'))

    获取 pdf 共用多少页

    page_count = pdf_input.getNumPages()

    foriinrange(page_count):

    pdf_output.addPage(pdf_input.getPage(i))

    添加书签

    pdf_output.addBookmark(

    second_level_title, pagenum=pagenum, parent=parent_bookmark)

    增加页数

    pagenum += page_count

    合并

    pdf_output.write(open(outfn,'wb'))

    删除所有章节文件

    shutil.rmtree(os.path.join(os.path.dirname(file),'gen'))

    本来PyPDF2库中有一个类PdfFileMerger专门用来合并pdf,但是在合并过程中会抛出异常,网上有人也遇到同样的问题,解决办法是修改库源码,本着“不动库源码”的理念,毅然选择了上面这种比较笨的办法,代码还是比较好理解的。

    经过以上几个步骤,我们想要的pdf文件已经生成,一起来欣赏一下劳动成果:

    image

    06.保存成果

    更多python学习可以关注我们哦

    14032011-120d95ff5606f391.jpg

    在这推荐下小编创建的Python学习交流群729720844,可以获取Python入门基础教程,送给每一位小伙伴,这里是小白聚集地,每天还会直播和大家交流分享经验哦,欢迎初学和进阶中的小伙伴。

    相关文章

      网友评论

        本文标题:Python爬虫:爬取在线教程转成pdf

        本文链接:https://www.haomeiwen.com/subject/mdjttctx.html