鱼C论坛

 找回密码
 立即注册
查看: 1565|回复: 0

[技术交流] 爬取b站用户信息

[复制链接]
发表于 2021-1-17 13:10:18 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
本帖最后由 Pythonnewers 于 2021-1-17 13:14 编辑

RT
可爬取"mid",'名字','性别','头像地址','等级','大会员'
  1. import requests
  2. import re
  3. import json
  4. from bs4 import BeautifulSoup
  5. import xlsxwriter
  6. import time
  7. import random
  8. book = xlsxwriter.Workbook(r'C:\Users\Sun\Desktop\Bilili User.xlsx')
  9. sheet = book.add_worksheet()
  10. word=['A','B','C','D','E','F','G','E']
  11. oppotion=["mid",'名字','性别','头像地址','等级','大会员']
  12. for p in range(len(oppotion)):
  13.     l = word[p]
  14.     sheet.write(f"{l}1",oppotion[p])
  15. headers={"user-agent":"Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.108 Safari/537.36"}

  16. def excel(*x):
  17.     for i in range(len(x)):
  18.         l=word[i]
  19.         sheet.write(f"{l}{ueser+2}",x[i])
  20.     print(str(x[0])+"完成")
  21. def mes(x):
  22.     print(x)
  23.     if x['code']==-404:
  24.         return
  25.     x=x['data']
  26.     mid=x["mid"]
  27.     name=x["name"]
  28.     sex=x["sex"]
  29.     face=x["face"]
  30.     level=x["level"]
  31.     vip=x['vip']['label']['text']
  32.     excel(mid,name,sex,face,level,vip)
  33. def req(url):
  34.     res=requests.get(url=url,headers=headers).content.decode("utf-8")
  35.     soup=BeautifulSoup(res,"lxml")
  36.     dic=json.loads(soup.p.get_text())
  37.     mes(dic)
  38. def uid(a):
  39.     mid=re.findall("\d+",a)[0]
  40.     global data
  41.     data={'mid':f'{mid}','jsonp':'jsonp'}
  42.     url=f"https://api.bilibili.com/x/space/acc/info?mid={mid}&jsonp=jsonp"
  43.     req(url)
  44. def user(uesers):
  45.     global ueser
  46.     for ueser in range(uesers):
  47.         url=f"https://space.bilibili.com/{ueser+1}/"
  48.         uid(url)
  49.         time.sleep(random.random())
  50.     book.close()
  51. user(100)
复制代码

↑↑↑
user这里()写爬取多少用户(按顺序)
↑我有些打英文手滑写错了,运行后才发现拼写错误
mid应该就是uid
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-5-10 15:49

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表