|
马上注册,结交更多好友,享用更多功能^_^
您需要 登录 才可以下载或查看,没有账号?立即注册
x
先上代码:
- # encoding='utf-8'
- import requests
- from lxml import etree
- # 1,将目标网站的页面抓取下来
- headers = {
- 'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36',
- 'Referer': 'https://www.baidu.com/link?url=0PXP5LpEAo5sw9eV3szzkv2pdM8sRdu2Onq3KmH0iwiD5VaokhlLh3-FktgLZRyz&wd=&eqid=af84e97900036a20000000065ea83f39',
- 'Upgrade-Insecure-Requests': '1'
- }
- url = 'https://movie.douban.com'
- response = requests.get(url, headers=headers)
- text = response.text
- # 2,将抓取下来的数据根据一定的规则进行提取
- html = etree.HTML(text) # 返回的是一个HTML对象
- ul = html.xpath("//div[contains(@data-index, '0')]") # 模糊匹配
- print(ul)
复制代码
实际运行过程中,ul值为空,但是用网页的xpath却能得到数据,不知道什么原因了,请高人指教 |
|