python 并行化介绍,ThreadPool对象map函数的使用
ThreadPool
A simple C++11 Thread Pool implementation
项目地址:https://gitcode.com/gh_mirrors/th/ThreadPool
·
前面的例子为大家介绍爬虫技术,我们发现都是单线程例子,获取的时间相对较慢。那么有没有一种更快速的处理办法呢?这里为大家介绍ThreadPool中map方法
- 导入核心import包
from multiprocessing.dummy import Pool as ThreadPool
- 封装请求方法
def getSource(url):
return requests.request(method='GET', url=url, headers=headers, timeout=10, proxies={'http': '123.55.106.175:9999'})
- 将需要爬的url方到数组中
urls = []
for div in _divs:
# 文章地址
href = div.xpath('h4/a/@href')
urls.append(href[0])
- 初始化线程数
pool = ThreadPool(4)
pool.map(getSource, urls)
pool.close()
pool.join()
A simple C++11 Thread Pool implementation
最近提交(Master分支:1 个月前 )
9a42ec13 - 10 年前
fcc91415 - 10 年前
新一代开源开发者平台 GitCode,通过集成代码托管服务、代码仓库以及可信赖的开源组件库,让开发者可以在云端进行代码托管和开发。旨在为数千万中国开发者提供一个无缝且高效的云端环境,以支持学习、使用和贡献开源项目。
更多推荐


所有评论(0)