鱼C论坛

 找回密码
 立即注册
查看: 2271|回复: 7

最近把猫眼惹急眼了,给我封IP了

[复制链接]
发表于 2018-10-8 09:23:27 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
前一段时间开发了一个爬取全国影院的排期信息的小爬虫,默默付出了2周的时间,有一天做巡检的时候,发现403了
这是?这是?给我封IP了?我已经使用了动态的UA,但是还没有跳过猫眼的识别啊。
在这里请教大佬,除了西刺的代理IP还有什么其他的好的办法么?

不过话说,我每天的访问量也不大啊,怎么就给我踢出来了呢
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

发表于 2018-10-8 23:46:20 From FishC Mobile | 显示全部楼层
403不一定是封你ip,应该是你请求的参数不对,或者不足
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2018-10-9 10:13:00 | 显示全部楼层
wongyusing 发表于 2018-10-8 23:46
403不一定是封你ip,应该是你请求的参数不对,或者不足

之前爬虫跑的好好地,跑了将近两周,累积了500万数据,后来就直接403了,搞得好心累
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-10-9 11:33:24 From FishC Mobile | 显示全部楼层
tremble 发表于 2018-10-9 10:13
之前爬虫跑的好好地,跑了将近两周,累积了500万数据,后来就直接403了,搞得好心累

两周500万条数据,没换过ip?
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2018-10-9 12:47:37 | 显示全部楼层
wongyusing 发表于 2018-10-9 11:33
两周500万条数据,没换过ip?

一直没有换过,公司这边链接外网的IP就好像只有一个,还巨慢
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-10-9 12:58:26 | 显示全部楼层
tremble 发表于 2018-10-9 12:47
一直没有换过,公司这边链接外网的IP就好像只有一个,还巨慢

我要是网站管理员,当你爬到20万的时候就把你封了。  
封你很正常,正常人一天不会看3万多条数据吧。  
不用代理的话,这个问题无法解决
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2018-10-9 13:25:12 | 显示全部楼层
403 Forbidden
You don't have permission to access the URL on this server.

Powered by Tengine

以上内容为403,哎,一会好一会不好的。猫眼这是要弄死我嘞
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-10-9 17:44:06 | 显示全部楼层
爬虫配代理,必须的。不单单代理要换,请求头也经常更换以防万一。
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2026-1-2 16:30

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表