wk012233 发表于 2023-9-13 17:13:37

爬虫求助

https://baijiahao.baidu.com/s?id=1765736748275541689

像这种百家号的文章图片怎么爬取

isdkz 发表于 2023-9-13 17:13:49

您好,想要爬取这种类型的文章图片,可以使用Python的第三方库requests和BeautifulSoup来实现。具体步骤如下:

1. 使用requests库获取网页内容:

import requests

url = 'https://baijiahao.baidu.com/s?id=1765736748275541689'
response = requests.get(url)
html = response.text


2. 使用BeautifulSoup库解析网页内容,并获取图片链接:

from bs4 import BeautifulSoup

soup = BeautifulSoup(html, 'html.parser')
img_tags = soup.find_all('img')

img_urls = []
for img in img_tags:
    img_url = img.get('src')
    img_urls.append(img_url)


3. 下载图片:

import os

save_folder = 'images'
if not os.path.exists(save_folder):
    os.makedirs(save_folder)

for img_url in img_urls:
    img_name = img_url.split('/')[-1]
    img_path = os.path.join(save_folder, img_name)

    with open(img_path, 'wb') as f:
      img_data = requests.get(img_url).content
      f.write(img_data)


以上是一个简单的爬虫实现过程,但需要注意的是,爬取他人网站内容需要获得对方的授权,否则可能会侵犯对方的知识产权。
页: [1]
查看完整版本: 爬虫求助