鱼C论坛

 找回密码
 立即注册
查看: 1465|回复: 1

[已解决]爬取数据没有尾页或最后一页,如果判断总页数?

[复制链接]
发表于 2020-7-17 11:21:44 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
例如网址:https://www.qiushibaike.com/video/

我练习爬取所有视频,但是翻页时发现没有尾页,我无法确定总页数 ,当然一共13页
我可以用
for i in range(1,14)遍历出1-13这些数字 拼成相应的网址

但是请教各位前辈,除了这种笨方法 有没有更高级一些并且简单易懂的方法和思路?
最佳答案
2020-7-17 15:15:14
从网页上来看,<span class="page-numbers">13</span> 就是尾页,你获取其中的13即可。
from lxml import etree

pn = html.xpath('//span[@class="page-numbers"]/text()')
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2020-7-17 15:15:14 | 显示全部楼层    本楼为最佳答案   
从网页上来看,<span class="page-numbers">13</span> 就是尾页,你获取其中的13即可。
from lxml import etree

pn = html.xpath('//span[@class="page-numbers"]/text()')
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2025-1-19 23:22

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表