鱼C论坛

 找回密码
 立即注册
查看: 838|回复: 2

写了个爬虫代码,遇到点问题请解决!

[复制链接]
发表于 2020-4-16 11:07:50 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
运行一切正常,但到为什么不能爬取所有信息呢,只能显示第一页的内容而且还不全,有没有大神指点指点

  1. import requests
  2. import bs4
  3. import time
  4. import random
  5. import pandas as pd
  6. import xlrd

  7. house_info=[]

  8. for i in range(1,50):
  9.     url="https://suzhou.anjuke.com/sale/wuzhong/p"+str(i)+"/#filtersort"
  10.     headers = {
  11.         "user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/76.0.3809.87 Safari/537.36"
  12.     }
  13.     print("开始爬取安居客平台苏州吴中区二手房第%s页信息....." %(str(i)))
  14.     response = requests.get(url=url, headers=headers)
  15.     #生成bs4对象
  16.     bsoup=bs4.BeautifulSoup(response.text,'lxml')

  17.     house_list=bsoup.find_all('li', class_="list-item")

  18.     for house in house_list:
  19.       #bs4解析文件
  20.        titile = house.find('a').text.strip()
  21.        house_type = house.find('div', class_='details-item').span.text
  22.        buid_time = house.find('div', class_='details-item').contents[1].text
  23.        area = house.find('div', class_='details-item').contents[3].text
  24.        address = house.find('span', class_='comm-address').text.strip()
  25.        price = house.find('span', class_='price-det').text.strip()
  26.        unit_price = house.find('span', class_='unit-price').text.strip()

  27.        pd1= pd.DataFrame({'titile': titile, 'house_type': house_type, 'build_time': buid_time,
  28.                  'area': area, 'address': address, 'price': price, 'unit_price': unit_price},index=[0])
  29.        house_info.append(pd1)


  30.     second=random.randrange(3,5)
  31.     time.sleep(second)

  32. house_info2=pd.concat(house_info)
  33. house_info2.to_excel('house_info.xlsx',index=False)
复制代码


错误部分:
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

发表于 2020-4-16 11:57:23 | 显示全部楼层
错误部分是啥?
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2020-4-16 12:32:26 | 显示全部楼层
zltzlt 发表于 2020-4-16 11:57
错误部分是啥?

昨晚还报错呢,今天又能正常运行了,但是只能抓取第一页内容而且还抓不全,其他页内容不显示
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2025-6-16 09:22

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表