在Python 3中,要处理用户代理,您可以使用requests
库。首先,确保您已经安装了requests
库。如果没有,请使用以下命令安装:
pip install requests
接下来,您可以在发送请求时设置用户代理。以下是一个示例代码,展示了如何在请求中设置用户代理:
import requests
url = 'https://www.example.com'
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'}
response = requests.get(url, headers=headers)
print(response.text)
在这个例子中,我们设置了一个常见的Chrome浏览器用户代理。您可以根据需要替换为其他浏览器或设备用户代理。这样,当您的爬虫访问网站时,它会模拟一个正常的浏览器访问,有时可以避免被网站的反爬虫策略屏蔽。