学习网络爬虫难免遇到使用代理的情况,下面介绍一下如何使用requests设置代理:

如果需要使用代理,你可以通过为任意请求方法提供 proxies 参数来配置单个请求:

import requests 
proxies = { "http": "http://10.10.1.10:3128", "https": "http://10.10.1.10:1080", } 
requests.get("http://example.org", proxies=proxies)

这里的可以通过ip测试网站进行验证是否成功使用了代理 http://ip.chinaz.com/(查看你访问后的网站的您的IP是多少来判断)

有关requests的出现乱码问题的解决可以查看博客内容

有关requests的使用cookies问题的解决可以查看博客内容





Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐