Python中Scrapy如何抓取并分析天气数据

发布时间:2021-10-09 16:40:31 作者:柒染
来源:亿速云 阅读:141

今天就跟大家聊聊有关Python中Scrapy如何抓取并分析天气数据,可能很多人都不太了解,为了让大家更加了解,小编给大家总结了以下内容,希望大家根据这篇文章可以有所收获。

利用Python“简单地”抓取并分析一下天气数据。补充一下之前数据可视化的空白。

开发工具

Python版本:3.6.4

相关模块:

PIL模块;

requests模块;

pyecharts模块;

以及一些Python自带的模块。

环境搭建

Python简单分析微信好友

主要思路

利用国家气象局百度天气查询API接口来获取当前天气数据,主要包括温度、湿度、气压等。

获取相关数据之后利用pyecharts模块和PIL模块对数据进行可视化分析。

具体实现过程详见个人简介或私信获取源代码。

结果展示

使用:

在cmd窗口中运行analysis.py文件即可。

要画什么图把对应的函数调用注释去掉就好啦:

Python中Scrapy如何抓取并分析天气数据  

图片

结果:

(打开相关文件中的html文件查看效果更佳,到处点一点有惊喜~~~)

(1)全国部分城市空气质量

Python中Scrapy如何抓取并分析天气数据  

图片

(2)天气预报简图

Python中Scrapy如何抓取并分析天气数据  

图片

(3)部分城市气温柱状图

Python中Scrapy如何抓取并分析天气数据  

图片

(4)部分城市气温折线图

Python中Scrapy如何抓取并分析天气数据  

图片

(5)部分城市相对气压饼图

Python中Scrapy如何抓取并分析天气数据  

图片

(6)部分城市气温分布图

Python中Scrapy如何抓取并分析天气数据  

图片

(7)北京城市湿度

Python中Scrapy如何抓取并分析天气数据  

图片

(8)南京天气信息雷达图

Python中Scrapy如何抓取并分析天气数据  

图片

有些是为了画图而画图了,所以看起来逻辑很怪

补充:中国地震网数据可视化

来可视化一波我们爬取到的数据吧!

首先,根据经纬度画下地震发生频次的热力图吧,为了方便统计,我们对经纬度进行了保留一位小数处理,然后再进行频次统计,因此热力图会存在误差。

**注:数据源于http://news.ceic.ac.cn/index.html,仅供参考。**

总体上效果是这样子的:

Python中Scrapy如何抓取并分析天气数据  

图片

和Google搜到的世界地震带分布对比一下:

Python中Scrapy如何抓取并分析天气数据  

图片

还行吧,就是为啥中国那片这么“出众”。不过想想也对,国内自己的地震数据肯定统计的更详细,级别非常低的地震也统计进去了,而国外的地震统计的就比较粗糙一点,所以漏了很多,这么一来一回,也就成这副鬼样子了。因此还不如仔细瞅瞅国内的呢。所以放大定位到中国瞅瞅咯,效果如下:

Python中Scrapy如何抓取并分析天气数据  

图片

好吧,中国国土面积太大了,不太好展示,感兴趣的小伙伴自己下载相关文件看吧。T_T

然后再统计一下每年发生地震的频次?效果如下:

Python中Scrapy如何抓取并分析天气数据  

图片

以及地震级别统计?效果如下:

Python中Scrapy如何抓取并分析天气数据  

图片

最后再对所有发生过地震的地点画个词云吧:

Python中Scrapy如何抓取并分析天气数据    

看完上述内容,你们对Python中Scrapy如何抓取并分析天气数据有进一步的了解吗?如果还想了解更多知识或者相关内容,请关注亿速云行业资讯频道,感谢大家的支持。

推荐阅读:
  1. Scrapy 爬虫实例 抓取豆瓣小组信息并保存到mongodb中
  2. Python爬虫入门【17】:高考派大学数据抓取 scrapy

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

python scrapy

上一篇:如何优化Explain索引

下一篇:如何规划数据库环境标准化管理

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》