python爬虫中如何获取数据

发布时间:2021-09-07 13:46:46 作者:小新
来源:亿速云 阅读:201

这篇文章主要介绍python爬虫中如何获取数据,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!

1、爬取数据,实际上就是根据一个网址向服务器发起网络请求。

获取服务器返回的数据。

2、解析数据,将服务器返回的数据转换成易于理解的样式。

3、过滤资料,从大量资料中筛选出所需资料。

4、储存资料。

实例

from urllib.request import Request
from urllib.request import urlopen
 
# 爬取百度首页
url1 = 'http://www.baidu.com'
# 用一个变量保存
request = Request(url=url1)
response = urlopen(request)
# print(response.read().decode('utf-8'))
# 获取的数据是源代码要用decode进行解码操作
html_string = response.read().decode('utf-8')
with open('baidu.html', 'w', encoding='utf-8') as fp:
    fp.write(html_string)

以上是“python爬虫中如何获取数据”这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注亿速云行业资讯频道!

推荐阅读:
  1. react中获取数据的方法
  2. python爬虫怎么分布式获取数据

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

python

上一篇:css渐进增强功能是怎么实现的

下一篇:Python中numpy有什么功能优于列表

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》