python:scrapy学习demo分享

发布时间:2020-08-07 00:53:28 作者:ckxllf
来源:ITPUB博客 阅读:151

  推荐一个比较容易上手的Python 框架scrapy。

  开发环境搭建

  Python安装

  下载地址:官网

  这里我下载的是3.8.0的版本(我的安装目录是:D:\python\Python38-32)

  安装完后设置环境变量:在path中追加:D:\python\Python38-32; D:\python\Python38-32\Scripts

  升级pip

  输入命令:

  python -m pip install --upgrade pip

  安装scrapy依赖的模块

  安装wheel

  进入cmd执行命令命令:

  > pip install wheel

  安装pywin32

  下载地址:github

  由于我安装的Python是32位的,估选择win32-py3.8版本,下载后双击安装即可

  安装 lxml

  运行命令:

  > pip install lxml

  安装Twisted

  由于直接使用命令在线安装一直报下载超时,估采用离线安装的方式

  运行命令:

  > pip install Twisted-19.10.0-cp38-cp38-win32.whl

  安装scrapy

  运行命令:

  > pip install scrapy

  到目前为止就完成了scrapy环境的搭建,相对简单

  编写demo

  准备内容

  被爬网站

  选择百度图片首页:http://image.baidu.com/

  规则分析

  首先想到的是通过xpath的方式来爬取图片,xpath语句://div[@class=“imgrow”]/a/img/@src。但是在编写爬虫(Spiders)的时候发现http://image.baidu.com/请求并没有将图片的URL直接返回,而是通过后面的异步请求获取,而且返回的是一个json字符串,估xpath方式行不通。

  更换异步请求的URL为被爬网站:http://image.baidu.com/search/acjson?tn=resultjson_com&catename=pcindexhot&ipn=rj&ct=201326592&is=&fp=result&queryWord=&cl=2&lm=-1&ie=utf-8&oe=utf-8&adpicid=&st=-1&z=&ic=0&word=pcindexhot&face=0&istype=2&qc=&nc=1&fr=&pn=0&rn=30

  创建scrapy项目 ImagesRename

  运行命令:

  > scrapy startproject ImagesRename

  执行完后生成项目的目录结构如图:

  

python:scrapy学习demo分享

  其中:

  spiders目录:用于放置爬虫文件

  items.py:用于保存所抓取的数据的容器,其存储方式类似于 Python 的字典

  pipelines.py:核心处理器,对爬取到的内容进行相应的操作,如:下载,保存等

  settings.py:配置文件,修改USER_AGENT、存储目录等信息

  scrapy.cfg:项目的配置文件

  编写item容器 items.py

  import scrapy

  class ImagesrenameItem(scrapy.Item):

  # define the fields for your item here like:

  # name = scrapy.Field()

  imgurl = scrapy.Field()

  pass 郑州专业妇科医院 http://www.120zzzy.com/

  创建蜘蛛文件ImgsRename.py

  # -*- coding: utf-8 -*-

  import scrapy

  import json

  from scrapy.linkextractors import LinkExtractor

  from scrapy.spiders import CrawlSpider, Rule

  from ImagesRename.items import ImagesrenameItem

  class ImgsRenameSpider(CrawlSpider):

  name = 'ImgsRename'

  allowed_domains = ['image.baidu.com']

  #http://image.baidu.com/ 并没有返回图片链接,而是通过异步请求接口获取的,爬取的URL必须是异步请求的链接

  start_urls = ['http://image.baidu.com/search/acjson?tn=resultjson_com&catename=pcindexhot&ipn=rj&ct=201326592&is=&fp=result&queryWord=&cl=2&lm=-1&ie=utf-8&oe=utf-8&adpicid=&st=-1&z=&ic=0&word=pcindexhot&face=0&istype=2&qc=&nc=1&fr=&pn=0&rn=30',]

  def parse(self, response):

  # 实例化item

  item = ImagesrenameItem()

  #解析异步请求返回的json字符串

  #经过分析需要的图片链接保存在json——》data——》hoverURL

  jsonString = json.loads(response.text)

  data = jsonString["data"]

  imgUrls = []

  #循环将图片URL保存到数组中

  for d in data:

  if d:

  hov = d["hoverURL"]

  imgUrls.append(hov)

  item['imgurl'] = imgUrls

  yield item

  编写核心处理器图片下载中间件pipelines.py

  # -*- coding: utf-8 -*-

  # Define your item pipelines here

  #

  # Don't forget to add your pipeline to the ITEM_PIPELINES setting

  # See: https://doc.scrapy.org/en/latest/topics/item-pipeline.html

  import re

  from scrapy.pipelines.images import ImagesPipeline

  from scrapy import Request

  class ImagesrenamePipeline(ImagesPipeline):

  def get_media_requests(self, item, info):

  # 循环每一张图片地址下载

  for image_url in item['imgurl']:

  #发起图片下载的请求

  yield Request(image_url)

  修改配置文件settings.py

  # -*- coding: utf-8 -*-

  # Scrapy settings for ImagesRename project

  BOT_NAME = 'ImagesRename'

  SPIDER_MODULES = ['ImagesRename.spiders']

  NEWSPIDER_MODULE = 'ImagesRename.spiders'

  # Crawl responsibly by identifying yourself (and your website) on the user-agent

  #USER_AGENT = 'ImagesRename (+http://www.yourdomain.com)'

  USER_AGENT = 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/74.0.3729.131 Safari/537.36'

  # Obey robots.txt rules

  ROBOTSTXT_OBEY = False

  ITEM_PIPELINES = {

  'ImagesRename.pipelines.ImagesrenamePipeline': 300,

  }

  # 设置图片存储目录

  IMAGES_STORE = 'E:\图片'

  启动程序下载图片

  运行命令:

  scrapy crawl ImgsRename

  到目前为止就已经完成了一个简单的图片爬取程序,结果如图:

  当然这些下载的文件名称是一个随机数,如果需要按照一个格式的文件名存储则可以重新ImagesPipeline类的file_path方法即可,这里就不做详细的介绍

推荐阅读:
  1. Python自动化开发学习-Scrapy
  2. js 插件学习demo

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

demo python scrapy

上一篇:organizational alignment 组织调整

下一篇:一位初学Python同学的课堂笔记,仿佛看到当年的自己

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》