美文网首页
CS101:使用Python搭建搜索引擎-Unit1

CS101:使用Python搭建搜索引擎-Unit1

作者: 卷卷西 | 来源:发表于2016-08-06 03:14 被阅读0次

    本文为学习Udacity弗吉尼亚大学cs101课程《Intro to Computer Science》过程中的笔记。

    Unit 1

    如何开始

    本课程通过学习如何使用Python建立一个简单的搜索引擎,从而掌握Python编程入门以及计算机科学的基本知识。计算机科学是通过将问题——如建立搜索引擎——分解成更小的部分来解决,如下图。

    建立搜索引擎.png

    将建立搜索引擎的问题分解为:

    1. 编写网络爬虫,从而寻找数据
    2. 创建索引,以便于搜索
    3. 结果页面排序,以便于获得满意的结果

    第一单元的目标是学习如何从页面中抓取第一个链接。

    算术语法

    加法:<number> + <number>
    输出两个输入数字的和

    乘法:<number> ***** <number>
    输出两个输入数字的积

    减法:<number> - <number>
    输出第一个数字减去第二个数字的差

    除法:<number> / <number>
    输出第一个数字除以第二个数字的商
    (若两个数字都是整数,则结果只保留整数部分)

    变量及赋值

    变量名

    Python使用变量名来定义一个变量,该变量可以指向一个值,从而达到复用的效果。Python中的变量名可以由任意字母、数字及下划线( _ )组成,但不能以数字开头。一般使用全小写来命名变量,而且变量名大小写敏感,即myname不等于Myname。以下是一些合法的Python变量:

    my_name
    one2one
    ​Dorian
    this_is_a_very_long_variable_name

    赋值语句

    赋值语句讲一个值赋予一个变量

    <Name> = <Expression>

    赋值之后,变量<Name>将会指向表达式<Expression>的值。<Expression>可以是任何具有值的Python结构。

    多重赋值

    可以在一个赋值语句的左侧放置多个变量名,然后在右侧放置相应数量的表达式:

    <Name1>, <Name2>, ... = <Expression1>, <Expression2>, ...

    这种情况下右侧的所有表达式都会先被求值,然后被赋予左侧相应的变量,即

    <Name1> = <Expression1>
    <Name2> = <Expression2>

    这种方法可以方便地交换两个变量的值,如:

    s, t = t, s

    s将会被赋予t之前的值,t将会被赋予s之前的值。

    字符串

    字符串是一系列使用引号包围的字符列。引号可以是双引号也可以是单引号,但是同一个字符串的前后引号必须是同一种。以下是Python中一些合法的字符串:

    ​"silly"
    'string'
    "I'm a valid string, even with a single quote in the middle!"

    字符串连接

    可以对字符串使用 + 操作符,但和使用在数字上相比有不同含义。

    字符串连接: <String> + <String>
    输出两个输入字符串的连接结果(将两个字符串连接成新的字符串,字符串之间没有空格)

    也可以对字符串使用 ***** 操作符:

    字符串倍增: <String> ***** <Number>
    输出将<Number><String>相连的结果

    字符串索引

    索引操作符可以取得字符串中相应位置的单个字符。

    字符串索引: <String>[<Number>]
    输出<String><Number>位置的单个字符。字符串的位置由0开始计数,因此s[1]输出s中的第二个字符。如果<Number>为负数,则将从字符串的末尾开始计数:s[-1]输出s**中的最后一个字符。

    字符串提取: <String>[<Start Number>:<Stop Number>]
    输出<String>中从位置<Start Number>到位置<Stop Number>前一位的字符串子集。如果<Start Number>缺失,则从字符串开头开始;如果<Stop Number>缺失,则一直持续到字符串结尾。

    寻找字符串中的子集

    find方法提供了在字符串中寻找字符子集的手段。

    寻找字符串: <search string>.find(<target string>)
    输出一个数字表示字符串<search string>中第一次出现字符串<target string>的位置。若<search string>中不存在<target string>,则输出-1

    我们可以给find传入一个数字,达到在某个位置后寻找的效果。

    在...之后寻找字符串: <search string>.find(<target string>, <start number>)
    输出一个数字表示在字符串<search string>的位置<start number>上及之后第一次出现字符串<target string>的位置。若<search string>中位置<start number>之后不存在<target string>,则输出-1

    将数字转换为字符串

    str: str(<Number>)
    输出一个对应输入数字的字符串。例如:

    **str(23) **输出字符串 '23'

    抓取页面中第一个链接

    运用以上的知识,我们就可以开始抓取链接了。用浏览器打开一个网页,右键点击空白地方,选择“显示网站源文件”,我们可以看到页面的html源代码。其中链接一般是以<a href="…">的方式标记(实际可能有其他更多的情况,为了简化先假设所有链接都以这种形式书写)。

    我们可以将网页的源代码复制出来,作为字符串存入变量page。代码如下:

    #将网页html源代码存入page
    page = '''<div id="top_bin"> <div id="top_content" class="width960"><div class="udacity float-left"> <a href="/">...'''
    start_link = page.find('<a href=')                #找到链接标签的位置
    start_quote = page.find('"', start_link)          #找到包含链接的前引号"的位置
    end_quote = page.find('"', start_quote + 1)       #找到包含链接的后引号"的位置
    url = page[start_quote + 1:end_quote]             #两个引号之间即为链接,存入url
    print url                                         #显示url
    

    运行以上代码,我们就获得了一个网页中的第一个链接,并且存入了变量url中。

    相关文章

      网友评论

          本文标题:CS101:使用Python搭建搜索引擎-Unit1

          本文链接:https://www.haomeiwen.com/subject/thdksttx.html