python接口自动化29-requests-html支持JavaScript渲染页面
2021/6/2 20:24:37
本文主要是介绍python接口自动化29-requests-html支持JavaScript渲染页面,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
前言requests虽好,但有个遗憾,它无法加载JavaScript,当访问一个url地址的时候,不能像selenium一样渲染整个html页面出来。
requests-html终于可以支持JavaScript了,这就相当于是一个真正意义上的***面浏览器了。
中文文档地址:https://cncert.github.io/requests-html-doc-cn/#/
当第一次使用render() 渲染页面的时候,会自动下载chromium,但只会下载这一次,后面就不会下载了。
from requests_html import HTMLSession session = HTMLSession() r = session.get('https://www.cnblogs.com/yoyoketang/') r.html.render() # 首次使用,自动下载chromiumrender()渲染页面
到底渲染html页面是个什么概念呢?可以请求之后对比抓包看下,不使用render()之前,只发一个请求
使用render()之后,会发很多请求,类型于手工在浏览器上输入url后,浏览器渲染整个完整的页面,这正是我们想要的模拟浏览器发请求
案例接下来访问我的博客地址后,抓取我的个人信息
from requests_html import HTMLSession session = HTMLSession() r = session.get('https://www.cnblogs.com/yoyoketang/', verify=False) r.html.render() # 首次使用,自动下载chromium # print(r.html.html) d = r.html.find("#profile_block", first=True) print(d.text)
打印结果
昵称:上海-悠悠 园龄:2年4个月 粉丝:1570 关注:73 +加关注
困扰很久的问题终于找到了解决办法,更多强大的功能可以去requests-html的GitHub地址https://github.com/kennethreitz/requests-html
这篇关于python接口自动化29-requests-html支持JavaScript渲染页面的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-11-26消息中间件源码剖析教程
- 2024-11-26JAVA语音识别项目资料的收集与应用
- 2024-11-26Java语音识别项目资料:入门级教程与实战指南
- 2024-11-26SpringAI:Java 开发的智能新利器
- 2024-11-26Java云原生资料:新手入门教程与实战指南
- 2024-11-26JAVA云原生资料入门教程
- 2024-11-26Mybatis官方生成器资料详解与应用教程
- 2024-11-26Mybatis一级缓存资料详解与实战教程
- 2024-11-26Mybatis一级缓存资料详解:新手快速入门
- 2024-11-26SpringBoot3+JDK17搭建后端资料详尽教程