Item
爬取的主要目标就是从非结构性的数据源提取结构性数据,例如网页。scrapy提供Item
类来满足这样的需求。
Item
对象是种简单的容器,保存了爬取到的数据。提供了类似于字典的API以及用于声明可用字段的简单语法。
声明Item
Item使用简单的class定义语法以及Field
对象来声明。
例:
import scrapy
class Product(scrapy.Item):
name = scrapy.Field()
price = scrapy.Field()
stock = scrapy.Field()
last_updated = scrapy.Field(serializer=str)
Item字段(Item Fields)
Field对象指明了每个字段的元数据(metadata)。例如下面例子中last_updated
中指明了该字段的序列化函数。
可以为每个字段指明任何类型的元数据。Field
对象对接受的值没有任何限制。也正是因为这个原因,文档也无法提供所有可用的元数据的键(key)参考列表。Field
对象中保存的每个键可以由多个组件使用,并且只用这些组件知道这个键的存在,可以根据自己的需求,定义使用其他的Field
键。设置Field
对象的主要目的就是在一个地方定义好所有的元数据。一般来说,那些依赖某个字段的组件肯定使用了特定的键(key)。
需要注意的是,用来声明item的Field
对象并没有被赋值class属性。不过可以通过Item.fields
属性进行访问。
以上就是所有您需要知道的如何声明item的内容了。
网友评论