鱼C论坛

 找回密码
 立即注册
查看: 1913|回复: 1

[已解决]爬取豆瓣动作类电影报错

[复制链接]
发表于 2022-5-11 13:48:07 | 显示全部楼层    本楼为最佳答案   
start 和 limit 参数重复了,你的 data 那里有 start 和 limit 就不要在 base_url 那里写了
  1. import urllib.parse
  2. import urllib.request

  3. def create_request(page):
  4.     base_url = 'https://movie.douban.com/j/chart/top_list?type=5&interval_id=100%3A90&action=&'     # 注意这里,删掉 start 和 limit

  5.     data = {
  6.         'start':(page - 1) * 20,
  7.         'limit':20
  8.     }

  9.     data = urllib.parse.urlencode(data)

  10.     url = base_url + data
  11.     print(url)
  12.     headers = {
  13.         'User-Agent':'Mozilla/5.0 (Windows NT 6.2; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.90 Safari/537.36'
  14.     }

  15.     request = urllib.request.Request(url=url,headers=headers)
  16.     return request

  17. def get_content(request):
  18.     response = urllib.request.urlopen(request)
  19.     content = response.read().decode('utf-8')
  20.     return content

  21. def down_load(page,content):
  22.     with open('douban_' + str(page) +'.json','w',encoding='utf-8') as fp:
  23.         fp.write(content)

  24. if __name__ == '__main__':
  25.     start_page = int(input('请输入起始页码'))
  26.     end_page = int(input('请输入结束页码'))

  27.     for page in range(start_page,end_page+1):
  28.         request = create_request(page)
  29.         content = get_content(request)
  30.         down_load(page,content)
复制代码
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2025-10-28 04:41

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表