鱼C论坛

 找回密码
 立即注册
查看: 2852|回复: 10

[作品展示] Python爬虫:十几行代码下载王者荣耀所有皮肤

[复制链接]
发表于 2018-4-7 10:55:08 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
本帖最后由 fatcat01 于 2018-4-7 11:07 编辑
起因:前两天在公众号上看到一篇文章内容就是爬取王者荣耀的皮肤,但是内容太大概了,如果跟着他做肯定做不出来,所以我打算自己做。

之前接触过爬虫还是几年前爬取豆瓣电台的歌曲,那时候用的C++,json解析还要用第三方库,总之很麻烦。最近接触到了python,深深的感觉这门语言真好。

进入正题:如何爬取王者荣耀的英雄皮肤照片?

分为两步:
  • 找到皮肤图片的地址
  • 下载图片

1. 寻找皮肤图片地址1.1 找到英雄列表
百度“王者荣耀”进入官网,进入https://pvp.qq.com/F12进入调试界面,然后按F5刷新界面,图中标识的herolist.json文件就是我们所需要的英雄列表,其中包括英雄编号、英雄名称、英雄类型、皮肤的名称等信息,在文件上右击复制链接 http://pvp.qq.com/web201605/js/herolist.json

                               
登录/注册后可看大图
英雄列表.png

接下来检验一下我们的成果

  1. <span style="background-color: rgb(255, 255, 255);"># 代码片段1</span>
复制代码

以上代码读取英雄列表存入hero_json,并获取英雄数量,运行效果如图所示:

                               
登录/注册后可看大图
英雄列表运行结果.png


1.2 找到英雄皮肤地址
点击首页的“游戏资料”标签页,进入新的界面后点击一个英雄头像进入英雄资料界面,此处我们以孙尚香为例:

                               
登录/注册后可看大图
游戏资料.png

                               
登录/注册后可看大图
孙尚香.png

同样F12然后F5,将鼠标在孙尚香几个皮肤上依次扫过,来看看调试窗口

                               
登录/注册后可看大图
孙尚香皮肤.png
可以看到孙尚香的高清皮肤一共6个,同样我们在第一个皮肤上右键复制链接得到:http://game.gtimg.cn/images/yxzj/img201606/skin/hero-info/111/111-bigskin-1.jpg ,这就是我们梦寐以求的英雄皮肤链接

分析一下这个链接,其中“111”是英雄的编号,最后的“1”是该英雄的皮肤编号。到此为止,浏览器已经没有用了,该得到的信息我们都有了。

2. 下载图片
2.1 英雄有几个皮肤
在第一步获取到的herolist.json文件中有“skin_name”字段,我们只要解析这个字段就可以获取皮肤数量和皮肤名称。测试代码(接代码片段1)如下:
  1. # 代码片段2
  2.   hero_name = hero_json[0]['cname']
  3.   skin_names = hero_json[0]['skin_name'].split('|')
  4.   skin_num = len(skin_names)

  5.   print('hero_name: ', hero_name)
  6.   print('skin_names :', skin_names)
  7.   print('skin_num: ' + str(skin_num))
复制代码

运行结果如下:

                               
登录/注册后可看大图
廉颇.png
可以看到廉颇一共两个皮肤,皮肤名称分别为:正义轰爆和地狱岩魂。

2.2 下载文件
下载文件用到urlretrieve接口,测试代码如下:
  1. for i in range(hero_num):
  2.       # 获取皮肤名称列表
  3.     skin_names = hero_json['skin_name'].split('|')

  4.     for cnt in range(len(skin_names)):
  5.         save_file_name = 'D:\heroskin\\' + str(hero_json['ename']) + '-' +hero_json['cname']+ '-' +skin_names[cnt] + '.jpg'
  6.         skin_url = 'http://game.gtimg.cn/images/yxzj/img201606/skin/hero-info/'+str(hero_json['ename'])+ '/' +str(hero_json['ename'])+'-bigskin-' + str(cnt+1) +'.jpg'
  7.         urllib.request.urlretrieve(skin_url, save_file_name)
复制代码

来看下结果:

                               
登录/注册后可看大图
皮肤.png

至此224个皮肤全部下载完毕,都是高清图片。
还没有结束,程序有些不完美的地方:
  • 如果路径D:\herolist\不存在,则程序运行失败;
  • 如果中途下载失败,再次运行程序的时候已经下载过的图片还会再下载一次。

解决方案:

1. 检查文件是否存在,如果不存在则创建,代码如下
  1. # 文件夹不存在则创建
  2. save_dir = 'D:\heroskin'
  3. if not os.path.exists(save_dir):
  4.       os.mkdir(save_dir)
复制代码
2.检查文件是否存在,如果存在则跳过下载,代码如下:
  1. if not os.path.exists(save_file_name):
  2.     urllib.request.urlretrieve(skin_url, save_file_name)
复制代码


至此,大功告成,贴一下完整代码:
  1. # -*- coding: utf-8 -*-
  2. """
  3. Created on Wed Aug 23 23:12:17 2017

  4. @author: WangQiang
  5. """
  6. import urllib.request
  7. import json
  8. import os

  9. response = urllib.request.urlopen("http://pvp.qq.com/web201605/js/herolist.json")

  10. hero_json = json.loads(response.read())
  11. hero_num = len(hero_json)

  12. # 文件夹不存在则创建
  13. save_dir = 'D:\heroskin\\'
  14. if not os.path.exists(save_dir):
  15.     os.mkdir(save_dir)

  16. for i in range(hero_num):
  17.     # 获取英雄皮肤列表
  18.     skin_names = hero_json['skin_name'].split('|')

  19.     for cnt in range(len(skin_names)):
  20.         save_file_name = save_dir + str(hero_json['ename']) + '-' +hero_json['cname']+ '-' +skin_names[cnt] + '.jpg'
  21.         skin_url = 'http://game.gtimg.cn/images/yxzj/img201606/skin/hero-info/'+str(hero_json['ename'])+ '/' +str(hero_json['ename'])+'-bigskin-' + str(cnt+1) +'.jpg'

  22.         if not os.path.exists(save_file_name):
  23.             urllib.request.urlretrieve(skin_url, save_file_name)
复制代码
除去注释和空行,一共16行代码实现了下载王者荣耀所有皮肤的功能,这些皮肤用来当作桌面背景也是极好的!!!体验一下:

                               
登录/注册后可看大图
桌面.png

小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

 楼主| 发表于 2018-4-7 10:55:38 | 显示全部楼层
信任报道,欢迎指教!
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-4-7 13:16:55 | 显示全部楼层
厉害!赞!
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-4-7 14:23:53 | 显示全部楼层
666
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

发表于 2018-4-7 14:48:09 | 显示全部楼层
本帖最后由 Chase_Kas 于 2018-4-7 15:10 编辑

之前在B站上看到过有这样的视频,没想到你发了
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-4-7 15:05:31 | 显示全部楼层
本帖最后由 Chase_Kas 于 2018-4-7 15:17 编辑

不知道是不是版本问题,3.6.4版本无法运行,改了下就没问题了(hero_json是个列表,元素为字典,所以要加上索引号,hero_json[0]['skin_name'])
修改了下:按英雄名称创建文件夹并分类
  1. # -*- coding: utf-8 -*-
  2. """
  3. Created on Wed Aug 23 23:12:17 2017

  4. @author: WangQiang
  5. """
  6. import urllib.request
  7. import json
  8. import os

  9. response = urllib.request.urlopen("http://pvp.qq.com/web201605/js/herolist.json")

  10. hero_json = json.loads(response.read())
  11. hero_num = len(hero_json)

  12. for i in range(hero_num):

  13.     # 文件夹不存在则创建
  14.     if not os.path.exists('D:\\heroskin\\'):
  15.         os.mkdir('D:\\heroskin\\')
  16.     save_dir = 'D:\\heroskin\\' + hero_json[i]['cname'] + '\\'
  17.     if not os.path.exists(save_dir):
  18.         os.mkdir(save_dir)

  19.     # 获取英雄皮肤列表
  20.     skin_names = hero_json[i]['skin_name'].split('|')

  21.     for cnt in range(len(skin_names)):
  22.         save_file_name = save_dir + hero_json[i]['cname'] + '-' +skin_names[cnt] + '.jpg'
  23.         skin_url = 'http://game.gtimg.cn/images/yxzj/img201606/skin/hero-info/'+str(hero_json[i]['ename'])+ '/' +str(hero_json[i]['ename'])+'-bigskin-' + str(cnt+1) +'.jpg'

  24.         if not os.path.exists(save_file_name):
  25.             urllib.request.urlretrieve(skin_url, save_file_name)
复制代码
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 1 反对 0

使用道具 举报

发表于 2018-4-7 15:48:23 | 显示全部楼层
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2018-4-7 19:03:36 | 显示全部楼层
Chase_Kas 发表于 2018-4-7 15:05
不知道是不是版本问题,3.6.4版本无法运行,改了下就没问题了(hero_json是个列表,元素为字典,所以要加上 ...

这是去年写的代码了,可能是网站改了吧。
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2018-4-7 19:04:11 | 显示全部楼层
Chase_Kas 发表于 2018-4-7 15:05
不知道是不是版本问题,3.6.4版本无法运行,改了下就没问题了(hero_json是个列表,元素为字典,所以要加上 ...

有兴趣的话关注公众号“C与Python实战”还有一些爬虫,欢迎交流
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2018-4-8 15:45:31 | 显示全部楼层
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

发表于 2020-4-15 20:02:28 | 显示全部楼层
我把地址改了,这样就能自己直接创建了,不用担心你的顾虑了

  1.     # 文件夹不存在则创建
  2.     if not os.path.exists('C:\\Users\\Administrator\\Desktop\\heroskin\\'):
  3.         os.mkdir('C:\\Users\\Administrator\\Desktop\\heroskin\\')
  4.     save_dir = 'C:\\Users\\Administrator\\Desktop\\heroskin\\' + hero_json[i]['cname'] + '\\'
  5.     if not os.path.exists(save_dir):
  6.         os.mkdir(save_dir)
复制代码
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2025-6-16 00:19

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表