鱼C论坛

 找回密码
 立即注册
查看: 1511|回复: 4

[已解决]新手求问,爬取豆瓣 TOP250 电影排行榜那个例子的问题

[复制链接]
发表于 2019-2-7 23:44:06 | 显示全部楼层 |阅读模式
20鱼币
QQ截图20190207234056.png
import requests
import bs4
res = requests.get("https://movie.douban.com/top250")
soup = bs4.BeautifulSoup(res.text, "html.parser")
targets = soup.find_all("div", class_="hd")
for each in targets:
print(each.a.span.text)


<span class="title">肖申克的救赎</span>
<span class="title">&#160;/&#160;The Shawshank Redemption</span>
<span class="other">&#160;/&#160;月黑高飞(港)  /  刺激1995(台)</span>

span那不是有3行吗,为什么只打印了第一行的,如果要打印第二行和第三行应该怎样?
最佳答案
2019-2-7 23:44:07
多个相同子标签只选第一个,可以用next_sibling依次调整选择下个标签,

最佳答案

查看完整内容

多个相同子标签只选第一个,可以用next_sibling依次调整选择下个标签,
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

发表于 2019-2-7 23:44:07 | 显示全部楼层    本楼为最佳答案   
多个相同子标签只选第一个,可以用next_sibling依次调整选择下个标签,
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

发表于 2019-2-8 09:44:58 | 显示全部楼层
  1. import requests
  2. from bs4 import BeautifulSoup as bs

  3. def get_response(url,encoding_type):
  4.     header = {
  5.         'user-agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_2) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36',
  6.     }
  7.     response = requests.get(url=url,headers=header)
  8.     response.encoding = encoding_type     
  9.     return response

  10. def main():
  11.     encoding_type = 'utf-8'
  12.     url = 'https://movie.douban.com/top250'
  13.     response = get_response(url,encoding_type)
  14.     soup = bs(response.text,'lxml')
  15.     for each in soup.select('.hd a span'):
  16.         print(each.text)
  17.    
  18. main()
复制代码
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

发表于 2019-2-8 09:51:37 | 显示全部楼层
只能显示出第一行的原因是用了text,使用text后,会把当前行之后的数据去掉(好像是这样,记不大清楚)。推荐阅读《Python网络数据采集》
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

 楼主| 发表于 2019-2-8 11:13:28 | 显示全部楼层
塔利班 发表于 2019-2-7 23:44
多个相同子标签只选第一个,可以用next_sibling依次调整选择下个标签,

可以啦,谢谢
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2025-10-15 03:15

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表