Python爬虫中的页面解析和数据处理

本篇文章给大家分享的是有关Python爬虫中的页面解析和数据处理，小编觉得挺实用的，因此分享给大家学习，希望大家阅读完这篇文章后可以有所收获，话不多说，跟着小编一起来看看吧。

页面解析和数据处理

爬虫一共就四个主要步骤：

1.明确目标 (要知道你准备在哪个范围或者网站去搜索)

2.爬 (将所有的网站的内容全部爬下来)

3.取 (去掉对我们没用处的数据)

4.处理数据（按照我们想要的方式存储和使用）

一般来讲对我们而言，需要抓取的是某个网站或者某个应用的内容，提取有用的价值。内容一般分为两部分，非结构化数据和结构化数据。

非结构化数据：先有数据，再有结构。

结构化数据：先有结构，再有数据。

1.非结构化的数据处理

1.文本、电话号码、邮箱地址  
　　　　-->正则表达式
2.HTML文件   
　　　　 -->正则表达式，XPath,CSS选择器

2.结构化的数据处理

1.JSON文件 
　　　　-->JSON Path
　　　　-->转化成python类型进行操作
2.XML文件
　　　　-->转化成python类型（xmltodict）
　　　　-->XPath
　　　　-->CSS选择器
　　　　-->正则表达式

以上就是Python爬虫中的页面解析和数据处理，小编相信有部分知识点可能是我们日常工作会见到或用到的。希望你能通过这篇文章学到更多知识。更多详情敬请关注亿速云行业资讯频道。