python

python爬虫如何设置代理

小亿
81
2024-12-05 07:46:26
栏目: 编程语言

在Python中设置代理主要有两种方法:

  1. 使用requests库设置代理:

首先,确保已经安装了requests库。如果没有安装,可以使用以下命令安装:

pip install requests

然后,在代码中使用requests.get()requests.post()方法时,可以通过proxies参数设置代理:

import requests

url = 'https://example.com'
proxies = {
    'http': 'http://proxy.example.com:8080',
    'https': 'http://proxy.example.com:8080',
}

response = requests.get(url, proxies=proxies)
print(response.text)
  1. 使用urllib库设置代理:

首先,导入urllib.requesturllib.error模块。然后,使用ProxyHandler设置代理,并通过build_opener()创建一个opener对象。最后,使用urlopen()方法发起请求:

import urllib.request
import urllib.error

url = 'https://example.com'
proxy_server = 'http://proxy.example.com:8080'
proxies = urllib.request.ProxyHandler({'http': proxy_server, 'https': proxy_server})
opener = urllib.request.build_opener(proxies)
urllib.request.install_opener(opener)

try:
    response = urllib.request.urlopen(url)
    print(response.read().decode('utf-8'))
except urllib.error.URLError as e:
    print(e.reason)

请注意,这里的代理服务器地址(例如proxy.example.com和端口8080)需要替换为实际的代理服务器信息。

0
看了该问题的人还看了