scrapy框架怎么python爬虫中找寻下一页

发布时间:2020-11-23 09:52:07 作者:小新
来源:亿速云 阅读:487

这篇文章主要介绍了scrapy框架怎么python爬虫中找寻下一页,具有一定借鉴价值,需要的朋友可以参考下。希望大家阅读完这篇文章后大有收获。下面让小编带着大家一起了解一下。

实现自动翻页一般有两种方法:

在当前页面中找到下一页的地址;

自己根据URL的变化规律构造所有页面地址。

一般情况下我们使用第一种方法,第二种方法适用于页面的下一页地址为JS加载的情况。

scrapy框架怎么python爬虫中找寻下一页 

观察页面的网页源码后可以得到,直接拼接URL即可得到下一页的链接。

scrapy框架怎么python爬虫中找寻下一页 

再次运行结果,打开douban.csv。是不是发现所有的影片信息都获取到了,250个一个不多一个不少

scrapy框架怎么python爬虫中找寻下一页 

最后,利用Excel的筛选功能你可以筛选任意符合你要求的影片。(PS:Excel可以直接打开csv进行操作)

感谢你能够认真阅读完这篇文章,希望小编分享scrapy框架怎么python爬虫中找寻下一页内容对大家有帮助,同时也希望大家多多支持亿速云,关注亿速云行业资讯频道,遇到问题就找亿速云,详细的解决方法等着你来学习!

推荐阅读:
  1. Python爬虫框架【Scrapy】
  2. python爬虫实现获取下一页代码

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

python scrapy python爬虫

上一篇:python爬虫中scrapy怎么处理项目数据

下一篇:scrapy在python爬虫中建立目录的方法

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》