鱼C论坛

 找回密码
 立即注册
查看: 2579|回复: 5

Python爬虫response不是标准Json格式,怎么解析?

[复制链接]
发表于 2021-6-9 12:14:00 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
在爬取http://vip.win007.com/count/goal ... 1988099&cid=115,图1中红色方框内数据

网页是动态网页,但是response对象不是标准的json格式,如图2所示,有前缀,
怎么把前面的
“var goalPageInfo = [5,1];
var goalPageData =”
信息去掉,留下后面的内容?


import json
import requests

url = 'http://vip.win007.com/count/goalData.aspx?p=1&sp=1&t=5&time=2021/5/28%2019:00:00&hw=2.3&gw=3&g=3&cid=115&r=1&t2=1&scid=466&flesh=0.22358079357785554'
headers = {
    "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.77 Safari/537.36"
    }
#r = requests.get(url=url,headers=headers).json()

#print(r)

r = requests.get(url=url,headers=headers)
# 调用get方法,下载
#print(type(r.content.decode('gbk')))
#print(r.content.decode('gbk'))

ret = r.content.decode('gbk')
print(ret)
result = json.loads(ret)
print(result)

代码会报错

图1

图1
微信图片_20210609120844.png
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2021-6-9 14:42:40 From FishC Mobile | 显示全部楼层
这就是去掉前面部分也只是列表啊,和json也不沾边
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2021-6-9 15:43:15 | 显示全部楼层
试试ujson库
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2021-6-9 17:11:46 | 显示全部楼层

回帖奖励 +5 鱼币

import requests

url = 'http://vip.win007.com/count/goalData.aspx?p=1&sp=1&t=5&time=2021/5/28%2019:00:00&hw=2.3&gw=3&g=3&cid=115&r=1&t2=1&scid=466&flesh=0.22358079357785554'
headers = {
    "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.77 Safari/537.36"
    }
r = requests.get(url=url,headers=headers)
r.encoding="gbk"
lst=r.text.split("=")[2][:-2]
for x in eval(lst):
    print(x)
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2021-6-10 00:27:00 | 显示全部楼层
import requests
import re

url = 'http://vip.win007.com/count/goalData.aspx?p=1&sp=1&t=5&time=2021/5/28%2019:00:00&hw=2.3&gw=3&g=3&cid=115&r=1&t2=1&scid=466&flesh=0.22358079357785554'
headers = {
    'User-Agent': 'Mozilla/5.0'
}
res = requests.get(url, headers=headers)
datas = eval(re.findall('Data = (.*?);', res.content.decode('gbk'))[0])
for data in datas:
    print(data)
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 1 反对 0

使用道具 举报

发表于 2021-6-10 09:43:40 | 显示全部楼层
import re
import requests

res = requests.get(
    url='http://vip.win007.com/count/goalData.aspx?p=1&sp=1&t=5&time=2021/5/28%2019:00:00&hw=2.3&gw=3&g=3&cid=115&r=1&t2=1&scid=466',
    headers={  'User-Agent': 'Mozilla/5.0' }
)

m = re.findall("(\[\[.*?\]\])",res.content.decode('gbk'), re.S|re.M)[0]
for  l in eval(m):
    print(l)
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-6-19 05:40

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表