美文网首页
scrapy 常用自定义函数一

scrapy 常用自定义函数一

作者: 大圣不累 | 来源:发表于2019-02-14 22:42 被阅读0次
import hashlib,re,time
from urllib import parse

#根据特定字符串生成MD5

def md5_num(value):
      s = hashlib.md5()
      s.update(value.encode('utf-8'))
      return s.hexdigest()

#网址解码
def url_decode(url):
      new_url = parse.unquote(url)
      format_str = re.match('(^http.*?\.html).*?',new_url,re.S)
      return format_str[0]
#时间戳转化为固定格式时间
def time_now(timer):
      return time.strftime("%Y-%m-%d %H:%M:%S", time.localtime(timer))

#提取详情页URL的数字ID
def id_number(url):
      number = re.search('.*?(?P<number>\d+).*?',url)
      return number.group('number')

相关文章

网友评论

      本文标题:scrapy 常用自定义函数一

      本文链接:https://www.haomeiwen.com/subject/fjfueqtx.html