导语:
本文主要介绍了关于python进程池的使用注意的相关知识,希望可以帮到处于编程学习途中的小伙伴
1、使用注意
(1)使用池时,如果未指定进程数,则默认为CPU核心数。
(2)核心数对应的是电脑的逻辑处理器数(任务管理器-性能),不是核心数(我的电脑是2个核心4个逻辑处理器,所以这里默认使用4个进程)
(3) 进程数可以是几十万,并不是说开启进程数是4,只要使用pool(10),就可以同时开启10个进程进行爬取。
(4) 不过需要注意的是,无论多线程还是多进程,开启太多都会导致切换耗时,降低效率,所以创建过多的多线程和进程要慎重。
2、实例
import requests
from bs4 import BeautifulSoup
from multiprocessing import Pool, current_process
def get_title(i):
print('start', current_process().name)
title_list = []
url = 'https://movie.douban.com/top250?start={}&filter='.format(i*25)
r = requests.get(url)
soup = BeautifulSoup(r.content, 'html.parser')
lis = soup.find('ol', class_='grid_view').find_all('li')
for li in lis:
title = li.find('span', class_="title").text
# return title
title_list.append(title)
print(title)
return(title_list)if __name__ == '__main__':
pool = Pool()
for i in range(10):
pool.apply_async(get_title, (i, ))
pool.close()
pool.join()
print('finish')
以上就是py
thon进程池的使用注意,希望能对大家有所帮助。
更多Python学习指路:
本文教程操作环境:windows7系统、Python 3.9.1,DELL G3电脑。
本文为原创文章,版权归知行编程网所有,欢迎分享本文,转载请保留出处!
你可能也喜欢
- ♥ 如何在python中合并多个表11/03
- ♥ 当你无聊时,可以玩玩 GitHub 上这个开源项目12/29
- ♥ python中如何判断字典键值是否存在08/18
- ♥ 如何解决python目录名无效错误?08/27
- ♥ python如何使用多线程09/04
- ♥ 如何切换python网页窗口09/29
内容反馈