鱼C论坛

 找回密码
 立即注册
查看: 409|回复: 2

求助爬虫

[复制链接]
发表于 2018-10-22 00:02:01 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
import urllib.request
import re
import os

def open_url(url):
    req=urllib.request.Request(url)
    req.add_header('User-Agent','Mozilla/5.0 (Linux; Android 6.0; Nexus 5 Build/MRA58N) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Mobile Safari/537.36')
    response=urllib.request.urlopen(req)
    html=response.read().decode('utf-8')
    return html

def get_img(html):
    p=r'<img class="BDE_Image" src=("[^"]+\.jpg)"'
    imglist=re.findall(p,html)
    try:
        os.mkdir("NewPics")
    except FileExistsError:
        #如果该文件夹已存在则覆盖保存
        pass
    os.chdir("NewPics")

    for each in imglist:
        filename=each.split("/")[-1]
        urllib.request.urlretrieve(each,filename,None)

if __name__=='__main__':
    url="https://tieba.baidu.com/p/5918868886"
    get_img(open_url(url))

为什么不报错,文件夹也能创建可就是没有图片,代码都是按照小甲鱼书上敲的,可是就是出不来
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2018-10-22 09:01:58 | 显示全部楼层
不报错是因为你正则首先就没写对,其次网页源码和你审查元素渲染后的代码不一样
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-10-22 16:56:40 | 显示全部楼层
你正则没写对,如果你单单是抓图片的话,写对正则就好了。  
文字相对比较麻烦。  
测试过,可以从html源代码中获取图片链接。  
百度贴吧,属于静态网站吧
图片比其他网站好取多了。  
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-10-6 23:17

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表