在scrapy管道中使用FilesPipeline实现音频下载
2021/8/5 23:09:32
本文主要是介绍在scrapy管道中使用FilesPipeline实现音频下载,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
1. 这里省略爬虫代码和items编写,在pipeline.py中添加如下示范代码:
from scrapy.pipelines.files import FilesPipeline # 自定义一个类,继承FilesPipeline这个父类 class MusicDownloadPipeline(FilesPipeline): # item['url']为音乐请求地址,item['name']为音乐名 def get_media_requests(self, item, info): yield scrapy.Request(item['url'], meta={'name': item['name']}) def file_path(self, request, response=None, info=None, *, item=None): filename=request.meta['name']+'.mp3' return filename def item_completed(self, results, item, info): return item
2.在settings.py文件中添加文件保存路径:
FILES_STORE = 'E:/我的文件/好听音乐' # 保存文件的路径
后面打开管道,执行爬虫程序就可以进行下载了
这篇关于在scrapy管道中使用FilesPipeline实现音频下载的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-12-26怎么使用nsenter命令进入容器?-icode9专业技术文章分享
- 2024-12-26导入文件提示存在乱码,请确定使用的是UTF-8编码怎么解决?-icode9专业技术文章分享
- 2024-12-26csv文件怎么设置编码?-icode9专业技术文章分享
- 2024-12-25TypeScript基础知识详解
- 2024-12-25安卓NDK 是什么?-icode9专业技术文章分享
- 2024-12-25caddy 可以定义日志到 文件吗?-icode9专业技术文章分享
- 2024-12-25wordfence如何设置密码规则?-icode9专业技术文章分享
- 2024-12-25有哪些方法可以实现 DLL 文件路径的管理?-icode9专业技术文章分享
- 2024-12-25错误信息 "At least one element in the source array could not be cast down to the destination array-icode9专业技术文章分享
- 2024-12-25'flutter' 不是内部或外部命令,也不是可运行的程序 或批处理文件。错误信息提示什么意思?-icode9专业技术文章分享