资料分享—— Python 分析拉钩职位

发布时间：2020-07-01 14:22:11 作者：xjtuhit
来源：网络阅读：410

视频

PPT+ 视频

链接: https://pan.baidu.com/s/1tzG1adgpn23TSKvnR6XmYg 提取码: 2p2t

项目代码：https://github.com/nicksors/JobAnalysis

前言

近年来 Python 之火大家都有感而知，那亲们知道北京的 Python 开发岗位、运维开发岗位招聘地域都是如何分布的吗？薪水如何？是否有前景等等，这些数据呢直接通过招聘信息来了解到企业用人是最直接的，也是最简单的途径。

那本次将通过分享 Python 来抓取拉钩的招聘信息，然后加以分析，做一个北京的 Python 职位地域分布、薪资范围、福利待遇等维度出一个简单的分析报告，希望能帮助到想在 Python 这片田地耕耘的童鞋在发展方向上有所参考。

使用到的工具

使用 Python 的 requests 工具到招聘网站爬取我们想要的数据，分析和可视化也使用 Python 的相关模块来实现，主要有如下：
Python 版本：Python 3.x
requests：发起请求，从网站抓取数据
math：数学运算函数，向上取整，这里主要用于分析数据
time：时间模块，主要是控制爬虫不会因为频繁请求而被网站拉进小黑屋
pandas：数据抓取后使用该模块保存为 csv 文件到本地
matplotlib：可视化画图
pylab：设置画图能显示中文
wordcloud、scipy、jieba（字符串分割成单词）：生成中文词云

如何进行数据抓取

使用 Chrome 打开拉钩网站，在网站输入“Python开发” 职位，使用 “检查” 功能查看网页源码。发现拉钩有反爬机制，职位信息并不在源代码里，而是在 JSON 文件里，因此直接通过 JSON 获取数据即可。
资料分享—— Python 分析拉钩职位

抓取信息时，需要加上头部信息，才能获取到数据。（原理很简单：你得伪装成一个正常的 client 去请求网页才能拿到想要的数据）


def get_json(url, num):
   '''从网页获取JSON,使用POST请求,加上头部信息'''
   headers = {
       'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/66.0.3359.139 Safari/537.36',
       'Host': 'www.lagou.com',

     'Referer':'https://www.lagou.com/jobs/list_python%E5%BC%80%E5%8F%91?labelWords=&;fromSearch=true&suginput=',
       'X-Anit-Forge-Code': '0',
     'X-Anit-Forge-Token': 'None',
     'X-Requested-With': 'XMLHttpRequest'
   }

   data = {
       'first': 'true',
       'pn': num,
       'kd': 'Python开发'}
   res = requests.post(url, headers=headers, data=data)
   res.raise_for_status()
   res.encoding = 'utf-8'
   # 得到包含职位信息的字典
   page = res.json()
   return page

在搜索结果的第一页，我们可以从 JSON 里读取总职位数，按照每页15个职位，获得要爬取的页数。再使用循环按页爬取，将职位信息汇总，输出为 CSV 格式。

序运行如下：
资料分享—— Python 分析拉钩职位