鱼C论坛

 找回密码
 立即注册
查看: 2836|回复: 15

[已解决]爬虫爬出的数据为空数据

[复制链接]
发表于 2021-1-2 10:32:53 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
# 导入包
import requests
from lxml import etree
import json

if __name__ == '__main__':
    target = ['中证消费'
              ]
    session = requests.Session()

    # 登录地址
    url = 'https://www.lixinger.com/api/account/sign-in/by-account'

    # UA
    headers = {
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/85.0.4183.121 Safari/537.36'
    }

    data = {
        'accountName': "abcdely",
        'password': "abcdely66"
    }
    response = session.post(url=url, headers=headers, data=data)
    print(response.status_code)

    value_url = 'https://www.lixinger.com/api/analyt/company/price-metrics/get-price-metrics-chart-info'

    headers = {
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/85.0.4183.121 Safari/537.36'
    }
        #  在这个后面加入数据进行数据传输
    value_param = {
        "stockIds": ['601688', "601688"],
        "granularity": "y10",
        "leftMetricNames": {
            "0", 'pb_wo_gw'
        },
        "rightMetricNames": {
            "0", 'lxr_fc_rights'
        }
    }
    value_response = session.post(url=value_url, headers=headers, data=value_param).text
    # print(value_response)
    lst = json.loads(value_response)
        # lst 中的数据为{}
    print(lst)
最佳答案
2021-1-4 09:42:52
本帖最后由 kaohsing 于 2021-1-4 09:44 编辑

kao.png
捕获.JPG
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2021-1-2 12:54:21 | 显示全部楼层

回帖奖励 +1 鱼币

本帖最后由 suchocolate 于 2021-1-2 13:09 编辑

value_url 这个url是从哪个操作得到的,我们分析一下提交的参数。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2021-1-2 13:37:38 | 显示全部楼层
suchocolate 发表于 2021-1-2 12:54
value_url 这个url是从哪个操作得到的,我们分析一下提交的参数。

value_response = session.post(url=value_url, headers=headers, data=value_param).text
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2021-1-2 13:38:47 | 显示全部楼层
suchocolate 发表于 2021-1-2 12:54
value_url 这个url是从哪个操作得到的,我们分析一下提交的参数。

value_url = 'https://www.lixinger.com/api/analyt/company/price-metrics/get-price-metrics-chart-info'
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2021-1-2 13:40:06 | 显示全部楼层
对应获取url的网址
捕获.JPG
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2021-1-2 18:05:44 | 显示全部楼层

回帖奖励 +1 鱼币

想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2021-1-2 20:01:44 | 显示全部楼层

你是点击了什么触发了这个url发访问,我这里没有?
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2021-1-3 08:47:19 | 显示全部楼层

回帖奖励 +1 鱼币

尴尬
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2021-1-3 18:24:10 | 显示全部楼层

回帖奖励 +1 鱼币

你打印一下value_response的内容和长度看看,debug一下还是能解决很多问题的
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2021-1-3 18:51:45 | 显示全部楼层

回帖奖励 +1 鱼币

前来学习
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2021-1-3 22:33:10 | 显示全部楼层

回帖奖励 +1 鱼币

看你的注释是有登录操作吧,那数据获取时需不要需要Cookies?
分析请求头,该有的都要有
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2021-1-4 08:02:22 | 显示全部楼层

回帖奖励 +1 鱼币

贴出网址,以及需要的数据。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2021-1-4 09:42:52 | 显示全部楼层    本楼为最佳答案   
本帖最后由 kaohsing 于 2021-1-4 09:44 编辑

kao.png
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2021-1-4 10:21:11 | 显示全部楼层

回帖奖励 +1 鱼币

想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2021-1-4 11:04:47 | 显示全部楼层

回帖奖励 +1 鱼币

不懂帮顶
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2021-1-4 17:29:08 | 显示全部楼层

回帖奖励 +1 鱼币

想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-4-28 06:38

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表