鱼C论坛

 找回密码
 立即注册
查看: 741|回复: 9

写的一个爬虫遇到一个小问题

[复制链接]
发表于 2018-10-14 12:44:20 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
mport os
import urllib.request as ur
def urlopen(new_url):
    answer=ur.Request(new_url)
    answer.add_header('User-Agent','Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36 SE 2.X MetaSr 1.0')
    data=ur.urlopen(answer).read()
    return data
def find_it(data):
    data=data.decode('utf-8')
    a=data.find('img src=')+9
    b=data.find('.jpg')+4
    return data[a:b]
def savefile(pictures_address):
    for i in pictures_address:
        filename=i.split('/')[-1]
        print(filename)
        with open(filename,'wb') as f:
            img=urlopen(i)
            f.write(img)
            
   
def download__mm(pages=20):
    os.chdir(r'C:\Users\黄腾\Desktop')
    os.mkdir('heihei')
    os.chdir('heihei')
    url='http://www.mzitu.com/153685'
    number=0
    pictures_address=[]
    for i in range(pages):
        number+=i
        if number!=0:
            new_url=url+'/'+str(number)
            data=urlopen(new_url)
            pictures_address.append(find_it(data))
        else:
            new_url=url
            data=urlopen(new_url)
            pictures_address.append(find_it(data))
    savefile(pictures_address)


if __name__=='__main__':
    download__mm()
   
   
遇到的问题是:Traceback (most recent call last):
  File "C:\Users\黄腾\Desktop\firstspider.py", line 43, in <module>
    download__mm()
  File "C:\Users\黄腾\Desktop\firstspider.py", line 39, in download__mm
    savefile(pictures_address)
  File "C:\Users\黄腾\Desktop\firstspider.py", line 17, in savefile
    with open(filename,'wb') as f:
FileNotFoundError: [Errno 2] No such file or directory: ''


为什么会说找不到这个文件或路径这是怎么回事?
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2018-10-14 12:49:09 | 显示全部楼层
你的filename是什么
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2018-10-14 13:02:38 | 显示全部楼层
塔利班 发表于 2018-10-14 12:49
你的filename是什么

。额这个问题找到了就是列表里有的是空的
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2018-10-14 13:04:18 | 显示全部楼层
塔利班 发表于 2018-10-14 12:49
你的filename是什么

又个新问题,。 我创建的列表里的元素为啥是NONTYPE导致报错了
<class 'NoneType'>
Traceback (most recent call last):
  File "C:\Users\黄腾\Desktop\firstspider.py", line 45, in <module>
    download__mm()
  File "C:\Users\黄腾\Desktop\firstspider.py", line 41, in download__mm
    savefile(pictures_address)
  File "C:\Users\黄腾\Desktop\firstspider.py", line 17, in savefile
    filename=i.split('/')[-1]
AttributeError: 'NoneType' object has no attribute 'split'
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-10-14 13:19:36 | 显示全部楼层
你没捕获到呗,你把网页内容打印了看有图片文件么
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-10-14 15:00:15 | 显示全部楼层
提示你一下,你需要饼干信息。  
不然到最后,还是会拿不到图片,并且报403错误
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2018-10-15 14:15:48 From FishC Mobile | 显示全部楼层
wongyusing 发表于 2018-10-14 15:00
提示你一下,你需要饼干信息。  
不然到最后,还是会拿不到图片,并且报403错误

我还不知道饼干信息是什么。。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-10-15 14:25:11 | 显示全部楼层
沉默成魂 发表于 2018-10-15 14:15
我还不知道饼干信息是什么。。

你翻译一下曲奇  
我发英文的话,会被审核。  
有曲奇还不行,还要一个parems的字典
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2018-10-15 14:30:05 From FishC Mobile | 显示全部楼层
wongyusing 发表于 2018-10-15 14:25
你翻译一下曲奇  
我发英文的话,会被审核。  
有曲奇还不行,还要一个parems的字典

哦,是不是c oo kies
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-10-15 14:41:46 | 显示全部楼层

是的
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-4-28 16:19

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表