鱼C论坛

 找回密码
 立即注册
查看: 1919|回复: 5

[已解决]相同url下不同页面数据爬取的问题

[复制链接]
发表于 2019-12-9 16:32:32 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
https://www.flightstats.com/v2/flight-tracker/departures/SZX
在爬取上面页面的数据时,只能爬到第一页的数据。由于是相同url,爬取不到后续页码的数据,这个问题该怎么解决???
最佳答案
2019-12-9 19:31:40
本帖最后由 yjsx86 于 2019-12-9 20:10 编辑

它的全部数据在javascript代码块里面
  1. import requests, re, json

  2. r = requests.get("https://www.flightstats.com/v2/flight-tracker/departures/SZX")

  3. m = re.search(r'"flights":(\[.*?\]),', r.text, re.M)
  4. items = json.loads(m.group(1))
  5. print("total: %d" % len(items))
  6. for item in items:
  7.     carrier = item['carrier']['fs'] + '-' + item['carrier']['flightNumber']
  8.     departure = item['departureTime']['time24']
  9.     arrival = item['arrivalTime']['time24']
  10.     destination = item['airport']['fs']
  11.     print("{} {} {} {}".format(carrier, departure, arrival, destination))
复制代码
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

发表于 2019-12-9 19:31:40 | 显示全部楼层    本楼为最佳答案   
本帖最后由 yjsx86 于 2019-12-9 20:10 编辑

它的全部数据在javascript代码块里面
  1. import requests, re, json

  2. r = requests.get("https://www.flightstats.com/v2/flight-tracker/departures/SZX")

  3. m = re.search(r'"flights":(\[.*?\]),', r.text, re.M)
  4. items = json.loads(m.group(1))
  5. print("total: %d" % len(items))
  6. for item in items:
  7.     carrier = item['carrier']['fs'] + '-' + item['carrier']['flightNumber']
  8.     departure = item['departureTime']['time24']
  9.     arrival = item['arrivalTime']['time24']
  10.     destination = item['airport']['fs']
  11.     print("{} {} {} {}".format(carrier, departure, arrival, destination))
复制代码
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 1 反对 0

使用道具 举报

 楼主| 发表于 2019-12-9 21:40:20 | 显示全部楼层
yjsx86 发表于 2019-12-9 19:31
它的全部数据在javascript代码块里面

谢谢大佬啊~嘤嘤嘤
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2019-12-9 21:48:11 | 显示全部楼层
op114129 发表于 2019-12-9 21:40
谢谢大佬啊~嘤嘤嘤

给人家一个最佳答案吧
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2019-12-10 21:53:20 | 显示全部楼层
阴阳神万物主 发表于 2019-12-9 21:48
给人家一个最佳答案吧

哈哈哈哈,忙着用大佬的代码去了,搞完赶紧给了最佳答案,我的锅,隔空给大佬说声么么哒
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2020-6-4 01:14:37 | 显示全部楼层
yjsx86 发表于 2019-12-9 19:31
它的全部数据在javascript代码块里面

大佬这代码怎么用啊
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2025-6-21 04:48

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表