Python爬虫-抖音用户信息

Thewhitecrow · 发表于 2020-11-3 09:54:36

马上注册，结交更多好友，享用更多功能^_^

您需要登录才可以下载或查看，没有账号？立即注册

x

import requests
from bs4 import BeautifulSoup as bs
import urllib3
urllib3.disable_warnings(urllib3.exceptions.InsecureRequestWarning)

id = '64990944'
change = {('\ue602','\ue60E','\ue618'):'1',
          ('\ue603','\ue60d','\ue616'):'0',
          ('\ue604','\ue611','\ue61a'):'3',
          ('\ue605','\ue610','\ue617'):'2',
          ('\ue606','\ue60c','\ue619'):'4',
          ('\ue607','\ue60f','\ue61b'):'5',
          ('\ue608','\ue612','\ue61f'):'6',
          ('\ue609','\ue615','\ue61e'):'9',
          ('\ue60a','\ue613','\ue61c'):'7',
          ('\ue60b','\ue614','\ue61d'):'8'}

#将爬到的单个编码放到这个函数会返回对应的数字
def change_2_num(code):
    for i in change:
        try:
            if code.split()[0] in i:
                return change[i]
        except:
            print('函数change_2_num出错',code.split())
    return code

#请求链接，返回soup对象
def get_html(id):
    url = 'https://www.iesdouyin.com/share/user/'+id
    print(url)
    headers = {"user-agent":"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/39.0.2171.95 Safari/537.36 OPR/26.0.1656.60"}
    r = requests.get(url,headers=headers,verify=False)
    if not len(r.text)>10000:
        return
    soup = bs(r.text,'lxml')
    return soup


def get_num(name,attrs):
    fin = ''
    res = soup.find_all(name=name,attrs={'class':attrs})
    if res:
        mid = res[0].text.split()
        #将获取的文本以空格切成列表，不切的话因为空格的存在会返回''而不是uincode编码
    else:
        return
    for code in mid:
        fin+=change_2_num(code)
        #遍历文本内容，如果是unicode编码则返回对应数字
    print(fin)
    return fin

soup = ''
def main():
    global soup
    soup = get_html(id)
    if not soup:
        return
    try:
        nickname = soup.find(name='p',attrs={'class':'nickname'}).string
        print(nickname )
        signature = soup.find(name='p',attrs={'class':'signature'}).string
        print(signature)
        dyID = get_num('p',"shortid").replace('抖音ID：','')
        focus = get_num('span',"focus").replace('关注','')
        follower = get_num('span',"follower").replace('粉丝','')
        liked = get_num('span',"liked-num").replace('赞','')
        works = get_num('div',"user-tab").replace('作品','')
        like = get_num('div',"like-tab").replace('喜欢','')
    except:
        return

main()

Thewhitecrow · 发表于 2020-11-3 09:55:49

没有东西爬出来，希望大佬们给下意见改进
https://www.iesdouyin.com/share/ ... are_app_name=douyin
这个是现在抖音的url

Thewhitecrow · 发表于 2020-11-3 09:57:44

感觉主要是url那里

YunGuo · 发表于 2020-11-5 15:02:38

你需要的这些信息不是在html结构中，根据你上面给的url，找到包含关注、粉丝等信息的接口是这个：https://www.iesdouyin.com/web/ap ... Sf54jeSlXcSm1qFHZw0，请求这个接口就能得到你想要的信息，其中sec_uid参数是获取信息的关键参数。

账号		自动登录	找回密码
密码			立即注册