鱼C论坛

 找回密码
 立即注册
查看: 3400|回复: 11

[技术交流] 关于python爬虫获取数据的问题

[复制链接]
发表于 2022-8-10 09:58:38 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
各位鱼友好

      我是技术新手,做策略交易的,才开始学习python,想请教一下:

      学习完python后(包括爬虫呀等等技能),能抓取交易软件页面上每一根K线的价格、技术指标数据吗?是每一根哦,如下

获取数据.png     yangli.png

现在是我需要什么指标数据,都是技术研究出指标的算法后本地计算出来,再跟页面上去核对正确如否,这样效率低,还个就是可能做了大量工作后指标无意义。

问题:
1、能否在页面上爬虫抓取呢?

2、如果能抓取,技术上码代码复杂吗?

PS,用的交易所是bi~an, OK也用,交易软件有PC版,有网页版的。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2022-8-10 10:04:44 | 显示全部楼层
一般情况下,页面上能渲染到的  都差不多可以爬到
爬虫就是针对网页的,pc软件里面的 抓不到
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2022-8-10 10:17:50 | 显示全部楼层
wp231957 发表于 2022-8-10 10:04
一般情况下,页面上能渲染到的  都差不多可以爬到
爬虫就是针对网页的,pc软件里面的 抓不到

PC软件不也是请求然后渲染的吗,怎么抓不到?又不是本地数据
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2022-8-10 10:20:17 | 显示全部楼层
南归 发表于 2022-8-10 10:17
PC软件不也是请求然后渲染的吗,怎么抓不到?又不是本地数据

pc软件是 抓自服务器   然后我们从pc上抓   这个还真不会   可以指导一下???
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2022-8-10 10:24:08 | 显示全部楼层
wp231957 发表于 2022-8-10 10:04
一般情况下,页面上能渲染到的  都差不多可以爬到
爬虫就是针对网页的,pc软件里面的 抓不到

我跟技术交流锅,抓一跟K的是没问题,但要按照时间自动、连续的抓取好像比较麻烦。是这样吗?比如我要1小时K线的连续1年的数据,能抓取的了吗?
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2022-8-10 10:24:48 | 显示全部楼层
南归 发表于 2022-8-10 10:17
PC软件不也是请求然后渲染的吗,怎么抓不到?又不是本地数据

我跟技术交流锅,抓一跟K的是没问题,但要按照时间自动、连续的抓取好像比较麻烦。是这样吗?比如我要1小时K线的连续1年的数据,能抓取的了吗?
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2022-8-10 10:27:22 | 显示全部楼层
令狐陈 发表于 2022-8-10 10:24
我跟技术交流锅,抓一跟K的是没问题,但要按照时间自动、连续的抓取好像比较麻烦。是这样吗?比如我要1小 ...

不懂股票,反正所谓的爬虫就是和服务器打交道,你要的数据服务器给你  你就能爬到
服务器不给你  谁也没着
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2022-8-10 10:49:09 | 显示全部楼层
wp231957 发表于 2022-8-10 10:27
不懂股票,反正所谓的爬虫就是和服务器打交道,你要的数据服务器给你  你就能爬到
服务器不给你  谁也没 ...

感谢
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2022-8-10 11:31:54 | 显示全部楼层
wp231957 发表于 2022-8-10 10:20
pc软件是 抓自服务器   然后我们从pc上抓   这个还真不会   可以指导一下???

我记得有很多抓包软件,比如Fiddler。要是请求参数没被加密可以一试。要是加密成功率就不大了
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2022-8-10 12:07:13 | 显示全部楼层
wp231957 发表于 2022-8-10 10:20
pc软件是 抓自服务器   然后我们从pc上抓   这个还真不会   可以指导一下???

fiddler
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2022-8-10 12:09:20 | 显示全部楼层
昨晚btc和eth红的我心疼
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2022-8-10 12:24:36 | 显示全部楼层
南归 发表于 2022-8-10 12:09
昨晚btc和eth红的我心疼

单次得失没关系,最好三率优化就程序自己跑呗。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-11-17 04:33

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表