Scrapy框架对接selenium怎样进行模拟知乎登录

发布时间:2021-12-04 10:54:47 作者:柒染
来源:亿速云 阅读:148

Scrapy框架对接selenium怎样进行模拟知乎登录,针对这个问题,这篇文章详细介绍了相对应的分析和解答,希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。

概要:之前写了scrapy的基础,准备尝试模拟知乎登录,并爬取问答。

但是发现知乎已经做了更新,对参数做了加密处理,身为小白的我只好试试selenium,本篇文章我们来了解scrapy框架如何对接selenium。

1、新建项目

新建项目,以及基本的操作在上一篇文章应该都有了解,如果现在还不了解,

这里献上链接:爬虫框架Scrapy的安装与基本使用

2、模拟知乎登录

首先需要在seetings.py中将ROBOTSTXT_OBEY = True修改为ROBOTSTXT_OBEY = False,ROBOTSTXT_OBEY 可以说是君子协议吧,我们修改成False,否则不能爬取。

然后再spider写下如下代码:

Scrapy框架对接selenium怎样进行模拟知乎登录

对于selenium不了解的可以查看:selenium的使用(有点意思)

3、运行

这里教大家一个小技巧

我们在项目下创建一个main文件写下如下代码:

Scrapy框架对接selenium怎样进行模拟知乎登录

即可。

这样我们就不用每次在黑窗口下运行,很麻烦。

这次只是简单的写了下selenium在scrapy框架中运用,没有用到什么新知识。

关于Scrapy框架对接selenium怎样进行模拟知乎登录问题的解答就分享到这里了,希望以上内容可以对大家有一定的帮助,如果你还有很多疑惑没有解开,可以关注亿速云行业资讯频道了解更多相关知识。

推荐阅读:
  1. 怎么利用Scrapy框架登录网站
  2. 怎么在python中使用scrapy框架模拟登录

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

scrapy selenium

上一篇:学习Python必去的6个网站分别是什么

下一篇:网页里段落的html标签是哪些

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》