items

作者: james_chang | 来源:发表于2018-07-12 08:53 被阅读0次

    Item

    爬取的主要目标就是从非结构性的数据源提取结构性数据,例如网页。scrapy提供Item类来满足这样的需求。

    Item对象是种简单的容器,保存了爬取到的数据。提供了类似于字典的API以及用于声明可用字段的简单语法。

    声明Item
    Item使用简单的class定义语法以及Field对象来声明。

    例:

    import scrapy
    
    class Product(scrapy.Item):
        name = scrapy.Field()
        price = scrapy.Field()
        stock = scrapy.Field()
        last_updated = scrapy.Field(serializer=str)
    
    

    Item字段(Item Fields)

    Field对象指明了每个字段的元数据(metadata)。例如下面例子中last_updated中指明了该字段的序列化函数。

    可以为每个字段指明任何类型的元数据。Field对象对接受的值没有任何限制。也正是因为这个原因,文档也无法提供所有可用的元数据的键(key)参考列表。Field对象中保存的每个键可以由多个组件使用,并且只用这些组件知道这个键的存在,可以根据自己的需求,定义使用其他的Field键。设置Field对象的主要目的就是在一个地方定义好所有的元数据。一般来说,那些依赖某个字段的组件肯定使用了特定的键(key)。

    需要注意的是,用来声明item的Field对象并没有被赋值class属性。不过可以通过Item.fields属性进行访问。

    以上就是所有您需要知道的如何声明item的内容了。

    相关文章

      网友评论

          本文标题:items

          本文链接:https://www.haomeiwen.com/subject/lyklpftx.html