关于lxml模糊匹配的问题
先上代码:# encoding='utf-8'
import requests
from lxml import etree
# 1,将目标网站的页面抓取下来
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36',
'Referer': 'https://www.baidu.com/link?url=0PXP5LpEAo5sw9eV3szzkv2pdM8sRdu2Onq3KmH0iwiD5VaokhlLh3-FktgLZRyz&wd=&eqid=af84e97900036a20000000065ea83f39',
'Upgrade-Insecure-Requests': '1'
}
url = 'https://movie.douban.com'
response = requests.get(url, headers=headers)
text = response.text
# 2,将抓取下来的数据根据一定的规则进行提取
html = etree.HTML(text) # 返回的是一个HTML对象
ul = html.xpath("//div") # 模糊匹配
print(ul)
实际运行过程中,ul值为空,但是用网页的xpath却能得到数据,不知道什么原因了,请高人指教 首先要检查text中是否存在你想提取的数据
页:
[1]