鱼C论坛

 找回密码
 立即注册
查看: 430|回复: 2

[已解决]为什么爬取的不是想要的

[复制链接]
发表于 2018-11-9 01:01:50 From FishC Mobile | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
import requests
import re
import os
#访问网页
def url_open(url):   
    #伪装成浏览器
    header = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/44.0.2403.157 Safari/537.36'}
    response = requests.get(url,headers = header)
    return response

#打印网页请求函数
def HTTPS(response,A):
    if A==1:
        print(response.status_code)  # 打印状态码
    if A==2:
        print(response.url)          # 打印请求url
    if A==3:
        print(response.headers)      # 打印头信息
    if A==4:
        print(response.cookies)      # 打印cookie信息
    if A==5:
        print(response.text)  #以文本形式打印网页源码
    if A==6:
        print(response.content) #以字节流形式打印
    if A==7:
        print(response.encoding)#打印编码格式
#输入网址调用函数        
n=1
n+=1

c="http://m.mm131.com/xinggan/4505_%d.html"%n
http=url_open(c)
print(HTTPS(http,5))


       
ouputs=http.text
q=r'alt=.*\)'#图片名字正则
p = r'src=".*?.jpg'#图片正则
img = re.search(p,ouputs).group()#匹配到的字符串
imgs=img[5:]#图片地址html
name = re.search(q,ouputs).group()#匹配到的字符串
names = img[5:]#图片名字
jpg=url_open(imgs).content





with open('/storage/emulated/0/Python/miui.jpg', 'wb') as f:
    f.write(jpg)
    f.close()
最佳答案
2018-11-9 16:48:34
不出意外的话是缺了refer参数
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2018-11-9 09:47:58 | 显示全部楼层
请求头不够,简单来说403错误
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2018-11-9 16:48:34 | 显示全部楼层    本楼为最佳答案   
不出意外的话是缺了refer参数
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-5-18 20:57

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表