Python爬虫：十几行代码下载王者荣耀所有皮肤
本帖最后由 fatcat01 于 2018-4-7 11:07 编辑起因：前两天在公众号上看到一篇文章内容就是爬取王者荣耀的皮肤，但是内容太大概了，如果跟着他做肯定做不出来，所以我打算自己做。
之前接触过爬虫还是几年前爬取豆瓣电台的歌曲，那时候用的C++，json解析还要用第三方库，总之很麻烦。最近接触到了python，深深的感觉这门语言真好。
进入正题：如何爬取王者荣耀的英雄皮肤照片？
分为两步：
[*]找到皮肤图片的地址
[*]下载图片
1. 寻找皮肤图片地址1.1 找到英雄列表百度“王者荣耀”进入官网，进入https://pvp.qq.com/ ，按F12进入调试界面，然后按F5刷新界面，图中标识的herolist.json文件就是我们所需要的英雄列表，其中包括英雄编号、英雄名称、英雄类型、皮肤的名称等信息，在文件上右击复制链接 http://pvp.qq.com/web201605/js/herolist.jsonhttp://upload-images.jianshu.io/upload_images/2124101-7954b7eff042c1c1.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240英雄列表.png
接下来检验一下我们的成果
<span style="background-color: rgb(255, 255, 255);"># 代码片段1</span>
以上代码读取英雄列表存入hero_json，并获取英雄数量，运行效果如图所示：http://upload-images.jianshu.io/upload_images/2124101-444d00a367c1bd05.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240英雄列表运行结果.png
1.2 找到英雄皮肤地址点击首页的“游戏资料”标签页，进入新的界面后点击一个英雄头像进入英雄资料界面，此处我们以孙尚香为例：
http://upload-images.jianshu.io/upload_images/2124101-19c79e8bbe7c8d16.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240游戏资料.png
http://upload-images.jianshu.io/upload_images/2124101-c0b4f49bc96a8ebf.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240孙尚香.png
同样F12然后F5，将鼠标在孙尚香几个皮肤上依次扫过，来看看调试窗口
http://upload-images.jianshu.io/upload_images/2124101-0dc1d6b5affcd1a3.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240孙尚香皮肤.png可以看到孙尚香的高清皮肤一共6个，同样我们在第一个皮肤上右键复制链接得到：http://game.gtimg.cn/images/yxzj/img201606/skin/hero-info/111/111-bigskin-1.jpg ，这就是我们梦寐以求的英雄皮肤链接。
分析一下这个链接，其中“111”是英雄的编号，最后的“1”是该英雄的皮肤编号。到此为止，浏览器已经没有用了，该得到的信息我们都有了。
2. 下载图片
2.1 英雄有几个皮肤在第一步获取到的herolist.json文件中有“skin_name”字段，我们只要解析这个字段就可以获取皮肤数量和皮肤名称。测试代码（接代码片段1）如下： # 代码片段2
hero_name = hero_json['cname']
skin_names = hero_json['skin_name'].split('|')
skin_num = len(skin_names)
print('hero_name: ', hero_name)
print('skin_names :', skin_names)
print('skin_num: ' + str(skin_num))
运行结果如下：http://upload-images.jianshu.io/upload_images/2124101-e2fb84698e52cc1f.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240廉颇.png可以看到廉颇一共两个皮肤，皮肤名称分别为：正义轰爆和地狱岩魂。
2.2 下载文件下载文件用到urlretrieve接口，测试代码如下：for i in range(hero_num):
# 获取皮肤名称列表
skin_names = hero_json['skin_name'].split('|')
for cnt in range(len(skin_names)):
save_file_name = 'D:\heroskin\\' + str(hero_json['ename']) + '-' +hero_json['cname']+ '-' +skin_names + '.jpg'
skin_url = 'http://game.gtimg.cn/images/yxzj/img201606/skin/hero-info/'+str(hero_json['ename'])+ '/' +str(hero_json['ename'])+'-bigskin-' + str(cnt+1) +'.jpg'
urllib.request.urlretrieve(skin_url, save_file_name)
来看下结果：http://upload-images.jianshu.io/upload_images/2124101-ec23a3d0d05061db.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240皮肤.png
至此224个皮肤全部下载完毕，都是高清图片。还没有结束，程序有些不完美的地方：
[*]如果路径D:\herolist\不存在，则程序运行失败；
[*]如果中途下载失败，再次运行程序的时候已经下载过的图片还会再下载一次。
解决方案：
1. 检查文件是否存在，如果不存在则创建，代码如下# 文件夹不存在则创建
save_dir = 'D:\heroskin'
if not os.path.exists(save_dir):
os.mkdir(save_dir)2.检查文件是否存在，如果存在则跳过下载，代码如下：if not os.path.exists(save_file_name):
urllib.request.urlretrieve(skin_url, save_file_name)
至此，大功告成，贴一下完整代码：# -*- coding: utf-8 -*-
"""
Created on Wed Aug 23 23:12:17 2017
@author: WangQiang
"""
import urllib.request
import json
import os
response = urllib.request.urlopen("http://pvp.qq.com/web201605/js/herolist.json")
hero_json = json.loads(response.read())
hero_num = len(hero_json)
# 文件夹不存在则创建
save_dir = 'D:\heroskin\\'
if not os.path.exists(save_dir):
os.mkdir(save_dir)
for i in range(hero_num):
# 获取英雄皮肤列表
skin_names = hero_json['skin_name'].split('|')
for cnt in range(len(skin_names)):
save_file_name = save_dir + str(hero_json['ename']) + '-' +hero_json['cname']+ '-' +skin_names + '.jpg'
skin_url = 'http://game.gtimg.cn/images/yxzj/img201606/skin/hero-info/'+str(hero_json['ename'])+ '/' +str(hero_json['ename'])+'-bigskin-' + str(cnt+1) +'.jpg'
if not os.path.exists(save_file_name):
urllib.request.urlretrieve(skin_url, save_file_name)除去注释和空行，一共16行代码实现了下载王者荣耀所有皮肤的功能，这些皮肤用来当作桌面背景也是极好的！！！体验一下：http://upload-images.jianshu.io/upload_images/2124101-6883c90f544ee531.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240桌面.png
信任报道，欢迎指教！{:5_91:} 厉害！赞！ 666 本帖最后由 Chase_Kas 于 2018-4-7 15:10 编辑
之前在B站上看到过有这样的视频，没想到你发了 本帖最后由 Chase_Kas 于 2018-4-7 15:17 编辑
不知道是不是版本问题，3.6.4版本无法运行，改了下就没问题了（hero_json是个列表，元素为字典，所以要加上索引号，hero_json['skin_name']）
修改了下：按英雄名称创建文件夹并分类
# -*- coding: utf-8 -*-
"""
Created on Wed Aug 23 23:12:17 2017
@author: WangQiang
"""
import urllib.request
import json
import os
response = urllib.request.urlopen("http://pvp.qq.com/web201605/js/herolist.json")
hero_json = json.loads(response.read())
hero_num = len(hero_json)
for i in range(hero_num):
# 文件夹不存在则创建
if not os.path.exists('D:\\heroskin\\'):
os.mkdir('D:\\heroskin\\')
save_dir = 'D:\\heroskin\\' + hero_json['cname'] + '\\'
if not os.path.exists(save_dir):
os.mkdir(save_dir)
# 获取英雄皮肤列表
skin_names = hero_json['skin_name'].split('|')
for cnt in range(len(skin_names)):
save_file_name = save_dir + hero_json['cname'] + '-' +skin_names + '.jpg'
skin_url = 'http://game.gtimg.cn/images/yxzj/img201606/skin/hero-info/'+str(hero_json['ename'])+ '/' +str(hero_json['ename'])+'-bigskin-' + str(cnt+1) +'.jpg'
if not os.path.exists(save_file_name):
urllib.request.urlretrieve(skin_url, save_file_name) 新手·ing 发表于 2018-4-7 13:16
厉害！赞！
po Chase_Kas 发表于 2018-4-7 15:05
不知道是不是版本问题，3.6.4版本无法运行，改了下就没问题了（hero_json是个列表，元素为字典，所以要加上 ...
这是去年写的代码了，可能是网站改了吧。 Chase_Kas 发表于 2018-4-7 15:05
不知道是不是版本问题，3.6.4版本无法运行，改了下就没问题了（hero_json是个列表，元素为字典，所以要加上 ...
有兴趣的话关注公众号“C与Python实战”还有一些爬虫，欢迎交流 {:5_90:} 我把地址改了，这样就能自己直接创建了，不用担心你的顾虑了
# 文件夹不存在则创建
if not os.path.exists('C:\\Users\\Administrator\\Desktop\\heroskin\\'):
os.mkdir('C:\\Users\\Administrator\\Desktop\\heroskin\\')
save_dir = 'C:\\Users\\Administrator\\Desktop\\heroskin\\' + hero_json['cname'] + '\\'
if not os.path.exists(save_dir):
os.mkdir(save_dir)
页:
[1]