鱼C论坛

 找回密码
 立即注册
查看: 2251|回复: 1

《零基础学习Python》p14-92 爬虫程序求助

[复制链接]
发表于 2017-10-27 08:23:27 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
  1. import urllib.request
  2. import urllib.parse
  3. import re
  4. from bs4 import BeautifulSoup

  5. def main():
  6.         keyword =  input("key words :")
  7.         keyword = urllib.parse.urlencode({"word":keyword})
  8.         response = \
  9. urllib.request.urlopen("http://baike.baidu.com/search/word? % s" % \
  10. keyword)
  11.         html = response.read()
  12.         soup = BeautifulSoup(html, "html.parser")

  13.         for each in soup.find_all(href=re.compile("view")):
  14.                 content =''.join([each.text])
  15.                 url2 = ''.join(["http://baike.baidu.com", each["href"]])
  16.                 response2 = urllib.request.urlopen(url2)
  17.                 html2 = response2.read()
  18.                 soup2 = BeautifulSoup(html2, "html.parser")
  19.                 if soup2.h2:
  20.                         content = ''.join([content, soup2, h2.txt])
  21.                 content  = ''.join([content, "->", url2])
  22.                 print(content)
  23. if __name__=="__main__":
  24.         main()
复制代码


IDE报错
  1. key words :qq
  2. Traceback (most recent call last):
  3.   File "C:\Users\Martin\Desktop\Python_Course\p14_92.py", line 26, in <module>
  4.     main()
  5.   File "C:\Users\Martin\Desktop\Python_Course\p14_92.py", line 11, in main
  6.     keyword)
  7.   File "D:\Program\Python\lib\urllib\request.py", line 223, in urlopen
  8.     return opener.open(url, data, timeout)
  9.   File "D:\Program\Python\lib\urllib\request.py", line 532, in open
  10.     response = meth(req, response)
  11.   File "D:\Program\Python\lib\urllib\request.py", line 642, in http_response
  12.     'http', request, response, code, msg, hdrs)
  13.   File "D:\Program\Python\lib\urllib\request.py", line 570, in error
  14.     return self._call_chain(*args)
  15.   File "D:\Program\Python\lib\urllib\request.py", line 504, in _call_chain
  16.     result = func(*args)
  17.   File "D:\Program\Python\lib\urllib\request.py", line 650, in http_error_default
  18.     raise HTTPError(req.full_url, code, msg, hdrs, fp)
  19. urllib.error.HTTPError: HTTP Error 400: Bad Request
  20. >>>
复制代码
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

发表于 2017-10-27 08:51:06 | 显示全部楼层
response = \
urllib.request.urlopen("http://baike.baidu.com/search/word? % s" % \
keyword)

这个地方有错,别换行,就写一行里面
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2025-10-23 13:15

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表