如何在Windows中安装Scrapy模块

如何在Windows中安装Scrapy模块？针对这个问题，这篇文章详细介绍了相对应的分析和解答，希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。

Scrapy简介

Scrapy，Python开发的一个快速、高层次的屏幕抓取和web抓取框架，用于抓取web站点并从页面中提取结构化的数据。

Scrapy用途广泛，可以用于数据挖掘、监测和自动化测试。

Scrapy吸引人的地方在于它是一个框架，任何人都可以根据需求方便的修改。它也提供了多种类型爬虫的基类，如BaseSpider、sitemap爬虫等，最新版本又提供了web2.0爬虫的支持。

安装依赖

• Scrapy安装依赖于以下几个Python库

• lxml, an efficient XML and HTML parser

• parsel, an HTML/XML data extraction library written on top of lxml,

• w3lib, a multi-purpose helper for dealing with URLs and web page encodings

• twisted, an asynchronous networking framework

• cryptography and pyOpenSSL, to deal with various network-level security needs

我选择手动安装这些依赖

• pip install lxml

• pip install parsel

• pip install w3lib

• pip install twisted

• pip install cryptography

• pip install pyOpenSSL

其他的安装都很顺利，就是在安装twisted的时候报错了。

Microsoft Visual C++ 14.0 is required. Get it with "Microsoft Visual C++ Build Tools": http://landinghub.visualstudio.com/visual-cpp-build-tools

于是下载离线的安装（下载自己的版本）
https://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted

下载到一个目录，然后用

pip install Twisted-17.9.0-cp36-cp36m-win32.whl

之后再用下面的命令安装就可以了

pip install Scrapy

在命令行中输入scrapy，出现如下界面，则表示安装成功

关于如何在Windows中安装Scrapy模块问题的解答就分享到这里了，希望以上内容可以对大家有一定的帮助，如果你还有很多疑惑没有解开，可以关注亿速云行业资讯频道了解更多相关知识。