鱼C论坛

 找回密码
 立即注册
查看: 1845|回复: 3

[技术交流] 有没有大佬哥哥,求助。网上找的代码为什么运行不了

[复制链接]
发表于 2021-10-2 11:11:49 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
在网上找了两个爬虫航班信息的代码,应该是比较全的,但是都运行不了,本人小白,解决了几个问题,目前的这个问题无法解决,有没有好giegie帮忙看一看。
代码是下面的:
import requests
import re
from bs4 import BeautifulSoup as bs
import time
import random
from fake_useragent import UserAgent

requests.adapters.DEFAULT_RETRIES = 5


class Variflight(object):
    def __init__(self):
        self.url_base = 'http://www.variflight.com'
        self.ua = UserAgent()
        self.headers = {}

    def get_ip(self):
        with open('f:\\data\\ip.txt', 'r') as f:
            ip_list = f.read().split('\n')
            return ip_list

    def get_fnums(self):  # 航班列表
        ip_list = self.get_ip()
        url_fnum_list = 'http://www.variflight.com/sitemap.html?AE71649A58c77='
        while (1):
            try:
                self.headers['User-Agent'] = self.ua.random
                ip = random.choice(ip_list)
                r = requests.get(url_fnum_list, headers=self.headers, proxies={'http': ip, 'https': ip}, timeout=1)
                break
            except:
                ip_list = self.get_ip()
        soup = bs(r.text, 'lxml')
        list_a = soup.find(class_='list').find_all('a')
        list_url_fnum = [self.url_base + a.attrs['href'] for a in list_a]
        #        print('get_fums')
        return list_url_fnum

    def get_fnums_from_txt(self, fname='所有航班号'):
        url = 'http://www.variflight.com/flight/fnum/{}.html?AE71649A58c77='
        with open('f:\\data\\{}.txt'.format(fname), 'r') as f:
            fnums = f.read().split(' ')
            url_fnums = [url.format(fnum) for fnum in fnums]
            return url_fnums

    def get_url_details(self, url_fnum, fdate):

        try:  # fdate=20200101
            url = url_fnum + '&fdate={}'.format(fdate)
            #            print(url)
            ip_list = self.get_ip()
            while (1):
                try:
                    ip = random.choice(ip_list)
                    self.headers['User-Agent'] = self.ua.random
                    r = requests.get(url, headers=self.headers, proxies={'http': ip, 'https': ip}, timeout=1)
                    #                   print(r.text)
                    break
                except:
                    ip_list = self.get_ip()
            soup = bs(r.text, 'lxml')
            list_a = soup.find_all(class_="searchlist_innerli")
            list_url = [self.url_base + a.attrs['href'] for a in list_a]

            return list_url

        except:
            #            print(e)
            return []

    def timeformat(self, timestamp):
        timestr = time.strftime('%Y/%m/%d %H:%M:%S', time.localtime(timestamp)) if timestamp else '--'
        return timestr

    def get_url_data(self, url_detail):
        while (1):
            ip_list = self.get_ip()
            try:
                self.headers['User-Agent'] = self.ua.random
                ip = random.choice(ip_list)
                r = requests.get(url_detail, headers=self.headers, proxies={'http': ip, 'https': ip}, timeout=1)
                url_str = re.findall('https://flightadsb.variflight.com/flight-playback/(.*?)"', r.text)[0]
                values = url_str.split('/')
                fnum = values[0]
                forg = values[1]
                fdst = values[2]
                ftime = values[3]
                url_data = 'https://adsbapi.variflight.com/adsb/index/flight?lang=zh_CN&fnum={fnum}&time={time}&forg={forg}&fdst={fdst}'.format(
                    fnum=fnum, time=ftime, forg=forg, fdst=fdst)
                break
            except:
                #                print(e)
                ip_list = self.get_ip()

        #        print('get_url_data')
        return url_data

    def parse_data(self, url_data, fdata):
        ip_list = self.get_ip()
        while (1):
            try:
                self.headers['User-Agent'] = self.ua.random
                ip = random.choice(ip_list)
                r = requests.get(url_data, headers=self.headers, proxies={'http': ip, 'https': ip}, timeout=1)
                json = r.json()
                data = json.get('data', {})
                break
            except:
                ip_list = self.get_ip()

        fnum = data.get('fnum', '--')  # 航班号
        airCName = data.get('airCName', '--')  # 航空公司
        scheduledDeptime = self.timeformat(data.get('scheduledDeptime', 0))  # 计划出发
        actualDeptime = self.timeformat(data.get('actualDeptime', 0))  # 实际出发
        forgAptCname = data.get('forgAptCname', '--')  # 出发地
        scheduledArrtime = self.timeformat(data.get('scheduledArrtime', 0))  # 计划到达
        actualArrtime = self.timeformat(data.get('actualArrtime', 0))  # 实际到达
        fdstAptCname = data.get('fdstAptCname', '--')  # 到达地
        status = '取消' if actualArrtime == '--' else '到达'  # 状态
        value = ','.join(
            [fnum, airCName, scheduledDeptime, actualDeptime, forgAptCname, scheduledArrtime, actualArrtime,
             fdstAptCname, status])
        #        print(value)
        with open('f:\\data\\{0}.csv'.format(fdata), 'a') as f:
            f.write(value + '\n')

    def main(self, fdata, k=0):
        #        fnums = self.get_fnums()
        fnums = self.get_fnums_from_txt('所有航班号')
        n = len(fnums)
        print(fdata)
        for i in range(k, n):
            print('\r{}/{}'.format(i + 1, n), end='')
            fnum = fnums[i]
            url_details = self.get_url_details(fnum, fdata)
            for url_detail in url_details:
                url_data = self.get_url_data(url_detail)
                self.parse_data(url_data, fdata)


if __name__ == "__main__":
    flight = Variflight()
    fdata = 20200229  # 日期
    flight.main(fdata)





出现的错误是:fake_useragent.errors.FakeUserAgentError: Maximum amount of retries reached














想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2021-10-3 07:42:29 From FishC Mobile | 显示全部楼层
我不太喜欢去修改别人的代码
你还是拿出你的需求,代码还是自己写比较好
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2021-10-3 15:53:09 | 显示全部楼层
wp231957 发表于 2021-10-3 07:42
我不太喜欢去修改别人的代码
你还是拿出你的需求,代码还是自己写比较好

需求是写一个爬取航班信息的,但目前还写不出来
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2022-8-25 18:43:48 | 显示全部楼层
我也一样,老是显示没有 requests这个模块,导入不出来,估计要下载什么插件
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-11-16 23:51

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表