鱼C论坛

 找回密码
 立即注册
查看: 4733|回复: 12

[已解决]python爬虫

[复制链接]
发表于 2020-9-17 15:54:06 | 显示全部楼层    本楼为最佳答案   
天边一抹灬红 发表于 2020-9-18 09:16
我提取到链接了就是不知道怎么解码

https://blog.csdn.net/qq_42636010/article/details这里写的就是针对那网址的URL解码的,因为是19年的不知道还是否有效,我也还没来得及试,可以看看学个思路
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

发表于 2020-9-18 07:18:17 | 显示全部楼层
刚刚看了一下,链接都是放在h3里的a标签里,用正则表达式或者xpaht提取一下内容就是文章链接了,不过得解码才能得到真正的URL
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

发表于 2020-9-22 12:18:08 | 显示全部楼层
import requests_html
import time

session = requests_html.HTMLSession()

res = session.get('https://weixin.sogou.com/weixin?query=华为'+input('关键字:')+'&type=2&page=3')



for url in res:
    r = res.html.xpath('//*[@id="sogou_vr_11002601_title_0"]/@href')

    p = 'https://weixin.sogou.com'+''.join(r)

    print(p)



我这边情况有些多变,不知道你和我的一不一样,随便写了一下(我F12出来的URL一会是完整的,一会不完整,有时直接拼接还能打开?!!)
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2025-10-21 03:17

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表