鱼C论坛

 找回密码
 立即注册
查看: 1448|回复: 2

爬虫读不出数据问题

[复制链接]
发表于 2021-12-8 11:26:03 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
目标网站:https://gzclass.gztv.com/gksubjecpc/index.html
请问为什么通过普通爬取或通过splash渲染,都取不到单元和课程的信息,遇到这种网站该怎么爬呢?
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2021-12-10 10:50:41 | 显示全部楼层
import requests,json
url="https://gzclass.gztv.com/hcEdu/pc/getGradeData?topColumnId=1029"
headers={
    "User-Agent": "Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/96.0.4664.93 Safari/537.36",
}

data=requests.get(url,headers=headers)
data=json.loads(data.text)
print(data["data"])
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2021-12-10 11:46:45 | 显示全部楼层
前端代码只是框架,需要ajax数据请求,
1.png
2.png
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2025-1-12 18:01

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表