53清 发表于 2021-8-20 21:33:10

re,获取网址

import requests
import parsel
import re
headers = {
    "User-Agent": "Mozilla / 5.0(Windows NT 10.0; Win64; x64) AppleWebKit / 537.36(KHTML, like Gecko) Chrome / 80.0.3987.122Safari / 537.40"
}#UA伪装
url = 'https://www.leshe.us/?ref=214'#乐摄网
response = requests.get(url=url,headers=headers)
selector = parsel.Selector(response.text)
lis = list(selector.css('.row.posts-wrapper div article'))



for li in lis:
    urls2 = li.css('a::attr(href)').get()
    response2 = requests.get(url=urls2,headers=headers)
    text = response2.text
    print(text)
    print('--------------------------')
    photo = re.findall('data-srcset=\"(.*?)\" title',text)#这里有问题,photo获取不到想要的网址
    print(photo)

53清 发表于 2021-8-20 21:34:46

想要获取图片的地址,但是返回的并不是想要的内容

wp231957 发表于 2021-8-20 21:38:05

53清 发表于 2021-8-20 21:34
想要获取图片的地址,但是返回的并不是想要的内容

做爬虫,首先一件事就是要确认你想提取的元素是否在源码中

53清 发表于 2021-8-20 21:47:14

wp231957 发表于 2021-8-20 21:38
做爬虫,首先一件事就是要确认你想提取的元素是否在源码中

好的,谢谢。自己发现问题了,print(text)是用于调试的,re改到最后的结果是成功的,但是我没有意识到,输出一开始获取的结果是调试的内容,并不是想要的内容,但是我以为是re输出的结果

53清 发表于 2021-8-20 21:48:41

53清 发表于 2021-8-20 21:34
想要获取图片的地址,但是返回的并不是想要的内容

我自己找到问题了,去掉print(text)就行了,re用法是正确的,谢谢大家的帮助
页: [1]
查看完整版本: re,获取网址