怎么利用Python爬取网页内容

这篇文章主要讲解了“怎么利用Python爬取网页内容”，文中的讲解内容简单清晰，易于学习与理解，下面请大家跟着小编的思路慢慢深入，一起来研究和学习“怎么利用Python爬取网页内容”吧！

编写执行代码

首先,你要安装requests和BeautifulSoup4,然后执行如下代码.
 
import requests
 
from bs4 import BeautifulSoup
 
iurl = 'http://news.sina.com.cn/c/nd/2017-08-03/doc-ifyitapp0128744.shtml'
 
res = requests.get(iurl)
 
res.encoding = 'utf-8'
 
#print(len(res.text))
 
soup = BeautifulSoup(res.text,'html.parser')
 
#标题
 
H1 = soup.select('#artibodyTitle')[0].text
 
#来源
 
time_source = soup.select('.time-source')[0].text
 
#来源
 
origin = soup.select('#artibody p')[0].text.strip()
 
#原标题
 
oriTitle = soup.select('#artibody p')[1].text.strip()
 
#内容
 
raw_content = soup.select('#artibody p')[2:19]
 
content = []
 
for paragraph in raw_content:
 
content.append(paragraph.text.strip())
 
'@'.join(content)
 
#责任编辑
ae = soup.select('.article-editor')[0].text

感谢各位的阅读，以上就是“怎么利用Python爬取网页内容”的内容了，经过本文的学习后，相信大家对怎么利用Python爬取网页内容这一问题有了更深刻的体会，具体使用情况还需要大家实践验证。这里是亿速云，小编将为大家推送更多相关知识点的文章，欢迎关注！