鱼C论坛

 找回密码
 立即注册
查看: 582|回复: 2

关于scrapy的疑问

[复制链接]
发表于 2018-10-27 13:22:24 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
本帖最后由 斯林 于 2018-10-28 14:46 编辑

看到很多博客里介绍通过改写中间件更换UserAgent或者IP的方法,
在编写完中间件之后为了使其生效,会启用settings里的代码,字典里的类对应的值就是它的顺序:
DOWNLOADER_MIDDLEWARES = {
‘scrapy.middlewares.UserAgentMiddleware’: 543,
}

有的文章中讲,它会与scrapy默认的下载中间件合并,中间件的分配顺序参考DOWNLOADER_MIDDLEWARES_BASE,即:
{
    'scrapy.downloadermiddlewares.robotstxt.RobotsTxtMiddleware': 100,
    'scrapy.downloadermiddlewares.httpauth.HttpAuthMiddleware': 300,
    'scrapy.downloadermiddlewares.downloadtimeout.DownloadTimeoutMiddleware': 350,
    'scrapy.downloadermiddlewares.useragent.UserAgentMiddleware': 400,
    'scrapy.downloadermiddlewares.retry.RetryMiddleware': 500,
    'scrapy.downloadermiddlewares.defaultheaders.DefaultHeadersMiddleware': 550,
    'scrapy.downloadermiddlewares.redirect.MetaRefreshMiddleware': 580,
    'scrapy.downloadermiddlewares.httpcompression.HttpCompressionMiddleware': 590,
    'scrapy.downloadermiddlewares.redirect.RedirectMiddleware': 600,
    'scrapy.downloadermiddlewares.cookies.CookiesMiddleware': 700,
    'scrapy.downloadermiddlewares.httpproxy.HttpProxyMiddleware': 750,
    'scrapy.downloadermiddlewares.chunked.ChunkedTransferMiddleware': 830,
    'scrapy.downloadermiddlewares.stats.DownloaderStats': 850,
    'scrapy.downloadermiddlewares.httpcache.HttpCacheMiddleware': 900,
}

疑问01,默认的这些中间件的值之间 间距那么多,为什么偏偏赋予它543的顺序
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

发表于 2018-10-28 19:56:07 | 显示全部楼层
后面的数字只是优先级。543,是代码里面自带的还是说你从哪里看来的代码抄上去的。  
它只要比其他相同配置的数值高就行了。  
没有必要纠结它为什么是543而不是540
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2018-10-28 23:01:02 | 显示全部楼层
wongyusing 发表于 2018-10-28 19:56
后面的数字只是优先级。543,是代码里面自带的还是说你从哪里看来的代码抄上去的。  
它只要比其他相同配置 ...

543是scrapy生成project时就自己带的,
知其然,所以我才想知其所以然
我试着在网上找了,没找到,所以我才来论坛问问
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2025-10-5 02:56

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表