鱼C论坛

 找回密码
 立即注册
查看: 1840|回复: 1

[原创] 每日一爬之爬取自定义车型和价位的汽车(好久没爬了哈哈哈~)

[复制链接]
发表于 2018-3-9 21:10:07 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
import requests
import bs4
import re
import openpyxl
def open_url(url):

    headers = {'user-agent':'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36'}
    html = requests.get(url,headers = headers)
    '''
    with open('car.txt','w',encoding = html.encoding)as f:
        f.write(html.text)
    '''
    return [html,url]

def find_data(html):
    soup = bs4.BeautifulSoup(html.text,'html.parser')
    bs4_data = soup.find_all('p',class_='price')
    car_data_list = []
    
    for each in bs4_data:
        car_data_list.append([re.search(r'(.+)报价',each.a['title'].strip()).group(1),re.search(r'(.+)万元',each.text.strip()).group(1)])
        
    return car_data_list
def save_as_excel(data,name):
    wb = openpyxl.Workbook()
    ws = wb.active

    ws['A1'] = '品牌'
    ws['B1'] = '车价'
    for each in data:
        ws.append(each)
    wb.save(name)
def main():
    car = {'2':'小型车','4':'中型车','6':'大型车'}
    url_data1 = input('请输入车型[小型:2,中型:4,大型:6]:')
    url_data2 = input('请输入价位(万元)[n_m]:')
    first_url = 'http://db.auto.sina.com.cn'

    url = first_url + '/list-' + url_data1 + '-0-' + url_data2 + '-0-0-0-0-0-9-0-1.html'
    html = open_url(url)[0]
    
    name = car[url_data1] + url_data2 + '万元价位汇总.xlsx'
    data = find_data(html)
    save_as_excel(data,name)
    
if __name__ == '__main__':
    main()
QQ截图20180309210944.png
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2018-9-1 15:34:35 | 显示全部楼层
大佬你好,你这个写入xlsx没有数据是什么问题
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-6-16 15:36

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表