鱼C论坛

 找回密码
 立即注册
查看: 1644|回复: 5

[已解决]相同url下不同页面数据爬取的问题

[复制链接]
发表于 2019-12-9 16:32:32 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
https://www.flightstats.com/v2/flight-tracker/departures/SZX
在爬取上面页面的数据时,只能爬到第一页的数据。由于是相同url,爬取不到后续页码的数据,这个问题该怎么解决???
最佳答案
2019-12-9 19:31:40
本帖最后由 yjsx86 于 2019-12-9 20:10 编辑

它的全部数据在javascript代码块里面
import requests, re, json

r = requests.get("https://www.flightstats.com/v2/flight-tracker/departures/SZX")

m = re.search(r'"flights":(\[.*?\]),', r.text, re.M)
items = json.loads(m.group(1))
print("total: %d" % len(items))
for item in items:
    carrier = item['carrier']['fs'] + '-' + item['carrier']['flightNumber']
    departure = item['departureTime']['time24']
    arrival = item['arrivalTime']['time24']
    destination = item['airport']['fs']
    print("{} {} {} {}".format(carrier, departure, arrival, destination))
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2019-12-9 19:31:40 | 显示全部楼层    本楼为最佳答案   
本帖最后由 yjsx86 于 2019-12-9 20:10 编辑

它的全部数据在javascript代码块里面
import requests, re, json

r = requests.get("https://www.flightstats.com/v2/flight-tracker/departures/SZX")

m = re.search(r'"flights":(\[.*?\]),', r.text, re.M)
items = json.loads(m.group(1))
print("total: %d" % len(items))
for item in items:
    carrier = item['carrier']['fs'] + '-' + item['carrier']['flightNumber']
    departure = item['departureTime']['time24']
    arrival = item['arrivalTime']['time24']
    destination = item['airport']['fs']
    print("{} {} {} {}".format(carrier, departure, arrival, destination))
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 1 反对 0

使用道具 举报

 楼主| 发表于 2019-12-9 21:40:20 | 显示全部楼层
yjsx86 发表于 2019-12-9 19:31
它的全部数据在javascript代码块里面

谢谢大佬啊~嘤嘤嘤
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2019-12-9 21:48:11 | 显示全部楼层
op114129 发表于 2019-12-9 21:40
谢谢大佬啊~嘤嘤嘤

给人家一个最佳答案吧
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2019-12-10 21:53:20 | 显示全部楼层
阴阳神万物主 发表于 2019-12-9 21:48
给人家一个最佳答案吧

哈哈哈哈,忙着用大佬的代码去了,搞完赶紧给了最佳答案,我的锅,隔空给大佬说声么么哒
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2020-6-4 01:14:37 | 显示全部楼层
yjsx86 发表于 2019-12-9 19:31
它的全部数据在javascript代码块里面

大佬这代码怎么用啊
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2025-1-21 00:55

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表