美文网首页
关于《Python网络数据采集》上的一些无法运行的代码记录

关于《Python网络数据采集》上的一些无法运行的代码记录

作者: Royal_KinM | 来源:发表于2018-03-07 21:09 被阅读136次

    最近自学爬虫的过程中,发现了这本书上个别会引发运行错误的代码,解决后,进行记录。

    一,第五章第一节媒体文件中的一段代码

    书上原代码为:

    def getDownloadPath(baseUrl, absoluteUrl, downloadDirectory):
        path = adsoluteUrl.replace("www.","")
        path = path.replace(baseUrl, "")
        path = downloadDirectory+path
        directory = os.path.dirname(path)
        if not os.path.exists(directory):
            os.makedirs(directory)
        return path
    

    运行时,会报错。我的思路如下:
    第一步,对照书本核对代码正确与否。
    第二步,将报错输入搜索引擎百度、谷歌,没有搜到。
    第三步,尝试自己去修改代码。一句句代码思考的过程中,发现了,要下载的文件名,在path所记录的url就有,在这个文件名后有多余的字符串,这段多余的字符串,使之无法正确识别文件名。
    于是尝试加了一段正则表达式。去除多余的字符串。
    在尝试过程中,发现网上有一帖子讲解该本书上该段代码的一个修改办法,于是进行了尝试。顺利改完。在这里用了re.sub()函数。
    改后的代码为:

    def getDownloadPath(baseUrl, absoluteUrl, downloadDirectory):
        path = absoluteUrl.replace("www.", "")
        path = path.replace(baseUrl, "")
        path = re.sub("\?.*", "", path)
        path = downloadDirectory+path
        directory = os.path.dirname(path)
        if not os.path.exists(directory):
            os.makedirs(directory)
        return path
    

    找到的原地址如下:
    http://www.jingouwangzi.com/archives/327

    二、第五章第三节mysql关于连接数据库函数

    原代码如下:

    conn = pymysql.connect(host='127.0.0.1', unix_socket='/tmp/mysql.sock', 
                           user='root', passwd='123456', db='mysql', charset='utf8')
    

    报错AttributeError: module 'socket' has no attribute 'AF_UNIX'
    改一个参数即可,改后如下:

    conn = pymysql.connect(host='127.0.0.1', port=3306, 
                           user='root', passwd='123456', db='mysql', charset='utf8')
    

    三、第五章第三节mysql的一段创建表单的代码

    原代码如下:

    CREATE TABLE 'wikipedia'.'pages'(
    'id' INT NOT NULL AUTO_INCREMENT,
    'url' VARCHAR(255) NOT NULL,
    'created' TIMESTAMP NOT NULL DEFAULT CURRENT_TIMESTAMP,
    PRIMARY KEY('id'))
    

    运行报错如下:

    1064 - You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near ''wikipedia'.'pages'(
    'id' INT NOT NULL AUTO_INCREMENT,
    'url' VARCHAR(255) NOT ' at line 1
    

    思路如下:
    第一步,查询和书上是否一致。(一致)
    第二步,搜索错误,搜不到(可能是我智商拙计,不得搜索的精髓所在。)。
    第三步,解析代码,自行解决问题。
    这就是一段创建新表的代码。在对照前面运行正常的mysql代码后,发现了,前面的表名和字段声明都没用引号,尝试全部去除引号,引发了表名的错误声明,再修改表名后,运行正常。
    代码如下:

    CREATE TABLE wikipedia_pages(
    id INT NOT NULL AUTO_INCREMENT,
    url VARCHAR(255) NOT NULL,
    created TIMESTAMP NOT NULL DEFAULT CURRENT_TIMESTAMP,
    PRIMARY KEY(id));
    

    此处可以用点命名,前提是声明了数据库wikipedia,本书下文也要用到wikipedia。
    现阶段就遇到这些。如果哪里理解错误,大神看到请多多指点。如果后面我还活着,遇到这本书上有问题的,依旧会尝试记录下来。

    就这样,继续学习了,peace~

    相关文章

      网友评论

          本文标题:关于《Python网络数据采集》上的一些无法运行的代码记录

          本文链接:https://www.haomeiwen.com/subject/deusfftx.html