python爬虫urllib库中parse模块urlparse的使用方法

这篇文章主要介绍了python爬虫urllib库中parse模块urlparse的使用方法，具有一定借鉴价值，感兴趣的朋友可以参考下，希望大家阅读完这篇文章之后大有收获，下面让小编带着大家一起了解一下。

在python爬虫urllib库中，urllib.parse是url解析模块，提供了很多解析和组建 URL 的方法，其中urlunparse() 方法通过长度为6的可迭代对象，组建URL。

一、urlparse() 方法

可以将 URL 解析成 ParseResult 对象,实现url的识别和分段。

标准链接格式为：scheme://netloc/path;params?query#fragment

二、urlparse将url拆分为六个部分

urlparse(url, scheme='', allow_fragments=True)

三、参数说明

urlstring：必填，待解析的url；

scheme：默认的协议，如http，https。链接没有协议信息时生效；

allow_fragments：是否忽略fragment，如果设置False，fragment部分会被忽略，解析为path、params或者query的一部分，而fragment部分为空。当URL不包含params和query时候，fragment会被解析为path一部分；

四、拆分六个部分为：

1、协议（scheme）

2、域名（netloc）

3、路径（path）

4、路径参数（params）

5、查询参数（query）

6、片段（fragment）

五、使用实例

from urllib.parse import urlparse
# 该方法可以实现URL的识别和分段
result = urlparse('http://www.baidu.com/index.html;user?id=5#comment')
# 这里我们利用urlparse()方法进行了一个URL的解析。首先，输出了解析结果的类型，然后将结果也输出出来。
print(type(result), result)

输出

E:\WebSpider\venv\Scripts\python.exe E:/WebSpider/3_1_3.py
<class 'urllib.parse.ParseResult'> ParseResult(scheme='http', netloc='www.baidu.com', path='
/index.html', params='user', query='id=5', fragment='comment')

感谢你能够认真阅读完这篇文章，希望小编分享的“python爬虫urllib库中parse模块urlparse的使用方法”这篇文章对大家有帮助，同时也希望大家多多支持亿速云，关注亿速云行业资讯频道，更多相关知识等着你来学习!