我正在使用多处理和 pathos 编写一些 python 代码。我写了一个小测试程序来习惯使用多处理,它在我的本地机器上运行良好,但它拒绝在不同的集群上运行。
我收到以下错误:
Traceback (most recent call last):
File "./multi.py", line 116, in <module>
pool = pathos_multiprocessing.Pool(processes=pool_size,maxtasksperchild=1,)
File "/usr/local/lib/python3.4/dist-packages/multiprocess/pool.py", line 150, in __init__
self._setup_queues()
File "/usr/local/lib/python3.4/dist-packages/multiprocess/pool.py", line 243, in _setup_queues
self._inqueue = self._ctx.SimpleQueue()
File "/usr/local/lib/python3.4/dist-packages/multiprocess/context.py", line 110, in SimpleQueue
from .queues import SimpleQueue
File "/usr/local/lib/python3.4/dist-packages/multiprocess/queues.py", line 22, in <module>
import _multiprocess as _multiprocessing
ImportError: No module named '_multiprocess'
但是当我做一个
pip3 list
pathos 和 multiprocessing 模块显然都在那里:
multiprocess (0.70.4)
nbconvert (4.2.0)
nbformat (4.0.1)
nose (1.3.1)
notebook (4.2.0)
numpy (1.10.4)
oauthlib (0.6.1)
pathos (0.2.0)
欢迎提出为什么会发生这种情况的任何好主意!
小测试代码为:
#! /usr/bin/env python3
import pathos.multiprocessing as mp
import os
import random
class Pool_set:
def pool_fun(directory_name):
cwd=os.getcwd()
os.mkdir(str(directory_name))
directory=os.path.join(cwd,str(directory_name))
os.chdir(directory)
os.system('{}'.format('sleep '+str(directory_name)))
cwd2=os.getcwd()
print(cwd2)
test_file = open('test_file.out','w')
test_file.write(cwd2)
print("Finished in "+directory)
os.chdir(cwd)
if __name__ == '__main__':
config=[]
pool_set = Pool_set
for i in (random.sample(range(1,100),3)):
config.append(i)
pool_size = mp.cpu_count()
pool = mp.Pool(processes=pool_size,maxtasksperchild=1,)
pool_outputs = pool.map(pool_set.pool_fun,config)
pool.close()
pool.join()
最佳答案
我是 pathos
和 multiprocess
的作者。我认为您找不到 _multiprocess
可能有两个原因。第一个也是迄今为止最常见的原因是您没有 C++ 编译器。 multiprocessing
需要一个 C++ 编译器,如果你在 Windows 上,你必须安装一个。请参阅:https://wiki.python.org/moin/WindowsCompilers .第二个是由于 PATH
/PYTHONPATH
问题而找不到它,如果你弄乱了 prefix
等,它是如何安装的,但是那是极少数的情况。
关于Python 多处理和 pathos : import error,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/38788994/