Python中怎么抓取网页内容

Python中怎么抓取网页内容，很多新手对此不是很清楚，为了帮助大家解决这个难题，下面小编将为大家详细讲解，有这方面需求的人可以来学习下，希望你能有所收获。

Python抓取网页内容方法一、用urllib2/sgmllib包，将目标网页的所有URL列出。

import urllib2  from sgmllib import SGMLParser   class URLLister(SGMLParser):  def reset(self):   SGMLParser.reset(self)  self.urls = []  def start_a(self, attrs):   href = [v for k, v in attrs if k=='href']   if href:  self.urls.extend(href)  f = urllib2.urlopen("http://www.donews.com/")  if f.code == 200:  parser = URLLister()  parser.feed(f.read())  f.close()  for url in parser.urls: print url

Python抓取网页内容方法二、用python调用IE抓取目标网页（Require win32com, pythoncom）的所有图像的url和大小

import win32com.client, pythoncom  import time  ie = win32com.client.DispatchEx('InternetExplorer.Application.1')  ie.Visible = 1 ie.Navigate("http://news.sina.com.cn")  while ie.Busy:  time.sleep(0.05)  doc = ie.Document  for i in doc.images:  print i.src, i.width, i.height

这种方法可以利用IE本身的Javascript. DHTML的支持，来做自动提交Form,和处理Javascript。

看完上述内容是否对您有帮助呢？如果还想对相关知识有进一步的了解或阅读更多相关文章，请关注亿速云行业资讯频道，感谢您对亿速云的支持。