爬虫日记(60):Scrapy的过滤性管道
2021/4/30 18:25:17
本文主要是介绍爬虫日记(60):Scrapy的过滤性管道,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
在开发爬虫的过程中,经常会遇到有一些内容不感兴趣、不需要的,这时候就需要使用过滤性的管道来处理。比如你去下载一些网店的数据,只对有价格显示的项有用,没有价格显示出来就没有办法处理,这时就可以采用过滤性的管道。如下的例子:
from itemadapter import ItemAdapter
from scrapy.exceptions import DropItem
class PricePipeline:
vat_factor = 1.15
def process_item(self, item, spider):
adapter = ItemAdapter(item)
if adapter.get('price'):
这篇关于爬虫日记(60):Scrapy的过滤性管道的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-06-30uniAPP 实现全屏左右滚动滚动的效果-icode9专业技术文章分享
- 2024-06-30如何在本地使用授权或插件-icode9专业技术文章分享
- 2024-06-30伪静态规则配置方法汇总-icode9专业技术文章分享
- 2024-06-29易优CMS安装常见问题汇总-icode9专业技术文章分享
- 2024-06-28易优新手必读安装教程-icode9专业技术文章分享
- 2024-06-28忘记eyoucms后台密码怎么办?-icode9专业技术文章分享
- 2024-06-26终极指南:Scrum中如何设置需求优先级
- 2024-06-26AI大模型企业应用实战(25)-为Langchain Agent添加记忆功能
- 2024-06-26小白家庭 nas 搭建方案-icode9专业技术文章分享
- 2024-06-23AI大模型企业应用实战(14)-langchain的Embedding