1.抽取方法:
"value_handle": [# 内容处理
{
"name":"extract",
"regex":"(低|中|高|地下)楼层?",
"value":""
},
],
2.父子路由：
"url_page": {
"seed_urls": {
"field": "seed_urls", # 字段名称
"depict": "种子url",
"status": True, # 是否禁用
"type": [], # list # 字段类型
"select": "xpath", # 提取方式
"deep": False,
"split": True,
"regex": "//div[@class='section']/div", # 提取规则
"child": {
"seed_url": {
"field": "seed_url", # 字段名称
"depict": "种子url",
"status": True, # 是否禁用
"type": "", # list # 字段类型
"select": "xpath", # 提取方式
"deep": False,
"split": True,
"regex": "//h4[@class='house-title']/a/@href", # 提取规则
"value_handle": [ # 内容处理
{
"name": "urljoin"
}
],
},
"house_floor": {
"field": "house_floor", # 字段名称
"depict": "所在楼层",
"status": True, # 是否禁用
"type": "", # 字段类型
# "separator": "", # list->str 分隔符 默认按","分割
"select": "xpath", # 提取方式
"deep": False,
"split": True,
"regex": "//p[@class='house-txt'][1]/text()[2]", # 提取规则
"value_handle": [ # 内容处理
],
},
"thumbnails": {
"field": "thumbnails", # 字段名称
"depict": "缩略图",
"status": True, # 是否禁用
"type": "", # list # 字段类型
"select": "xpath", # 提取方式//ul[@class='listUl']/li/div[@class='img_list']/a/img/@src
"deep": False,
"split": True,
"regex": "//img[@class='lazy']/@data-original", # 提取规则
"value_handle": [ # 内容处理
],
},
"house_title": {
"field": "house_title", # 字段名称
"depict": "房源标题",
"status": True, # 是否禁用
"type": "", # list # 字段类
网友评论