Thewhitecrow 发表于 2020-11-3 09:54:36

Python爬虫-抖音用户信息


import requests
from bs4 import BeautifulSoup as bs
import urllib3
urllib3.disable_warnings(urllib3.exceptions.InsecureRequestWarning)

id = '64990944'
change = {('\ue602','\ue60E','\ue618'):'1',
          ('\ue603','\ue60d','\ue616'):'0',
          ('\ue604','\ue611','\ue61a'):'3',
          ('\ue605','\ue610','\ue617'):'2',
          ('\ue606','\ue60c','\ue619'):'4',
          ('\ue607','\ue60f','\ue61b'):'5',
          ('\ue608','\ue612','\ue61f'):'6',
          ('\ue609','\ue615','\ue61e'):'9',
          ('\ue60a','\ue613','\ue61c'):'7',
          ('\ue60b','\ue614','\ue61d'):'8'}

#将爬到的单个编码放到这个函数会返回对应的数字
def change_2_num(code):
    for i in change:
      try:
            if code.split() in i:
                return change
      except:
            print('函数change_2_num出错',code.split())
    return code

#请求链接,返回soup对象
def get_html(id):
    url = 'https://www.iesdouyin.com/share/user/'+id
    print(url)
    headers = {"user-agent":"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/39.0.2171.95 Safari/537.36 OPR/26.0.1656.60"}
    r = requests.get(url,headers=headers,verify=False)
    if not len(r.text)>10000:
      return
    soup = bs(r.text,'lxml')
    return soup


def get_num(name,attrs):
    fin = ''
    res = soup.find_all(name=name,attrs={'class':attrs})
    if res:
      mid = res.text.split()
      #将获取的文本以空格切成列表,不切的话因为空格的存在会返回''而不是uincode编码
    else:
      return
    for code in mid:
      fin+=change_2_num(code)
      #遍历文本内容,如果是unicode编码则返回对应数字
    print(fin)
    return fin

soup = ''
def main():
    global soup
    soup = get_html(id)
    if not soup:
      return
    try:
      nickname = soup.find(name='p',attrs={'class':'nickname'}).string
      print(nickname )
      signature = soup.find(name='p',attrs={'class':'signature'}).string
      print(signature)
      dyID = get_num('p',"shortid").replace('抖音ID:','')
      focus = get_num('span',"focus").replace('关注','')
      follower = get_num('span',"follower").replace('粉丝','')
      liked = get_num('span',"liked-num").replace('赞','')
      works = get_num('div',"user-tab").replace('作品','')
      like = get_num('div',"like-tab").replace('喜欢','')
    except:
      return

main()

Thewhitecrow 发表于 2020-11-3 09:55:49

没有东西爬出来,希望大佬们给下意见改进
https://www.iesdouyin.com/share/user/51111651945?u_code=h7k5bj1l&did=53924990213&iid=1072749893391454&sec_uid=MS4wLjABAAAAwKUQz9Gli590NrfViSVmkuKKSf54jeSlXcSm1qFHZw0&timestamp=1604229721&utm_source=copy&utm_campaign=client_share&utm_medium=android&share_app_name=douyin
这个是现在抖音的url

Thewhitecrow 发表于 2020-11-3 09:57:44

感觉主要是url那里

YunGuo 发表于 2020-11-5 15:02:38

你需要的这些信息不是在html结构中,根据你上面给的url,找到包含关注、粉丝等信息的接口是这个:https://www.iesdouyin.com/web/api/v2/user/info/?sec_uid=MS4wLjABAAAAwKUQz9Gli590NrfViSVmkuKKSf54jeSlXcSm1qFHZw0,请求这个接口就能得到你想要的信息,其中sec_uid参数是获取信息的关键参数。
页: [1]
查看完整版本: Python爬虫-抖音用户信息