之前在写爬虫代码的时候,将数据库的存入放到了爬取的代码中了,然后会造成第二天来看结果时,发现数据库的连接失效导致程序自动关闭,后半夜的数据经常没有爬取到。当时还以为是数据库的设置问题,没有设置最大的连接时间或者时间太小。今天看了几篇文章才发现是在进行SQL语句操作数据库后,最后没有进行关闭数据库的操作,导致了前一次操作的数据库一直打开,所以理应在每次爬取完成后进行SQL语句读写操作后,关闭数据库的连接。这件事也让我认识到对SQL以及不同数据库的熟悉很重要,当初在学习数据库语言时并没有过多的关注数据库的关闭操作,现在看来是很有必要的。
网友评论