python网络爬虫(第五章:数据解析)
2021/7/28 12:35:47
本文主要是介绍python网络爬虫(第五章:数据解析),对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
聚焦爬虫:爬取页面中指定的页面内容
编码流程:
1.指定url
2.发送请求
3.获取响应数据
4.数据解析
5.持久化存储
数据解析原理概述:解析的局部的文本内容都会在标签之间或者标签对应的属性中进行存储。
数据解析步骤:
1.进行指定标签的定位
2.标签或者标签对应的属性中存储的数据值进行提取(解析)
案例:网页解析
#糗图百科之实战案例 import requests if __name__ == "__main__": url = 'https://pic.qiushibaike.com/system/pictures/12457/124575425/medium/YXD370U1DH5C2M3S.jpg' # content:返回二进制形式的图片数据 #返回的数据类型:1.text【字符串】2.content【二进制】图片为二进制 3.json() 【返回json对象】 response = requests.get(url=url).content with open('./retu.jpg','wb') as fp: fp.write(response) print('抓取成功!!!')
1.页面数据和结构
1.1 网页数据格式
1.结构化:具有模式的数据,如数据库、XML和JSON等 2.半结构化:半结构化数据具有一定的结构性,常见的半结构数据有XML和JSON。 3.非结构化:数据结构不规则或不完整,没有预定义的数据模型,如所有格式的办公文档、文本、HTML、图像、声音、视频等。
1.2 网页结构
网页结构均通过右击页面,选择【检查】,查看页面源代码
2.数据解析技术
数据解析分类:
1.正则 2.bs4【Beautiful Soup】 3.xpath(***)
描述 | 类型 |
---|---|
针对文本的解析 | 正则表达式 |
针对HTML/XML的解析 | Xpath、正则表达式、bs4 |
针对JSON的解析 | JSONPath |
(1)正则表达式给予文本的特征来匹配或查找指定的数据,可以处理任何格式的字符串文档。
(2)XPath和bs4基于HTML/XML文档的层次结构来确定到达指定节点的路径,更适合处理层级比较明显的数据。
(3)JSONPath专门用于JSON文档的数据类型
这篇关于python网络爬虫(第五章:数据解析)的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-11-25Python编程基础:变量与类型
- 2024-11-25Python编程基础与实践
- 2024-11-24Python编程基础详解
- 2024-11-21Python编程基础教程
- 2024-11-20Python编程基础与实践
- 2024-11-20Python编程基础与高级应用
- 2024-11-19Python 基础编程教程
- 2024-11-19Python基础入门教程
- 2024-11-17在FastAPI项目中添加一个生产级别的数据库——本地环境搭建指南
- 2024-11-16`PyMuPDF4LLM`:提取PDF数据的神器