scrapy在python分布式爬虫的使用范围

发布时间:2020-11-30 14:06:57 作者:小新
来源:亿速云 阅读:281

小编给大家分享一下scrapy在python分布式爬虫的使用范围,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!

1.scrapy框架是否可以自己实现分布式?

不可以。原因有二。

其一:因为多台机器上部署的scrapy会各自拥有各自的调度器,这样就使得多台机器无法分配start_urls列表中的url。(多台机器无法共享同一个调度器)

其二:多台机器爬取到的数据无法通过同一个管道对数据进行统一的数据持久出存储。(多台机器无法共享同一个管道)

2.基于scrapy-redis组件的分布式爬虫

scrapy-redis组件中为我们封装好了可以被多台机器共享的调度器和管道,我们可以直接使用并实现分布式数据爬取。

实现方式:

3.分布式实现流程:上述两种不同方式的分布式实现流程是统一的

3.1 下载scrapy-redis组件:

pip install scrapy-redis

3.2 redis配置文件的配置:

注释该行:bind 127.0.0.1,表示可以让其他ip访问redis

将yes该为no:protected-mode no,表示可以让其他ip操作redis

3.3 修改爬虫文件中的相关代码:

将爬虫类的父类修改成基于RedisSpider或者RedisCrawlSpider。注意:如果原始爬虫文件是基于 Spider的,则应该将父类修改成RedisSpider,如果原始爬虫文件是基于CrawlSpider的,则应该将其父类修改成RedisCrawlSpider。

注释或者删除start_urls列表,切加入redis_key属性,属性值为scrpy-redis组件中调度器队列的名称

3.4 在配置文件中进行相关配置,开启使用scrapy-redis组件中封装好的管道

scrapy在python分布式爬虫的使用范围

看完本篇文章我们知道,因为两点的限制,scrapy框架是不能在python分布式爬虫独立运用的,但是我们可以配合其他的一些函数来运行,这点小伙伴们可要记住啦~

以上是“scrapy在python分布式爬虫的使用范围”这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注亿速云行业资讯频道!

推荐阅读:
  1. Python自动化开发学习-分布式爬虫(scrapy-redis)
  2. 怎么在python中安装Scrapy框架

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

python scrapy 分布式爬虫

上一篇:python爬虫中requests和selenium有什么区别

下一篇:python分布式爬虫中spider_Worker节点指的是什么

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》