Python 多处理进程 ID

标签 python python-multiprocessing

我正在使用 multiprocessing.Pool 运行不同的进程(例如 4 个进程),并且我需要 ID 每个进程,以便我可以在每个进程中执行不同的操作。

由于我让池在 while 循环内运行,因此对于第一次迭代,我可以知道每个进程的 ID,但是对于第二次和更多迭代,此 ID 会发生变化,或者至少我找不到一个似乎与此相关的属性。所有迭代中的每个过程都相同。

相关部分代码如下:

     while i <= maxiter:
        print('\n' + 'Iteration: %r'%i + '\n')

        pool = mp.Pool(processes = numprocs)

        swarm = pool.map_async(partial(proxy, costf = costFunc, i=i),Swarm)
        pool.close()
        pool.join()

        Swarm = swarm.get()

我尝试使用以下属性来正确识别进程,但它对我不起作用:

print(mp.Process().name)
print(mp.current_process().name)

输出是:

Iteration: 1

Process-2:1
Process-1:1
ForkPoolWorker-1
ForkPoolWorker-2
Process-3:1
ForkPoolWorker-3
Process-2:2
ForkPoolWorker-2
Process-3:2
Process-2:3
ForkPoolWorker-3
ForkPoolWorker-2
Process-1:2
ForkPoolWorker-1
Process-4:1
Process-3:3
ForkPoolWorker-4
ForkPoolWorker-3
Process-2:4
ForkPoolWorker-2

Iteration: 2

Process-5:1
ForkPoolWorker-5
Process-5:2
Process-7:1
ForkPoolWorker-7
Process-6:1
ForkPoolWorker-5
ForkPoolWorker-6
Process-5:3
ForkPoolWorker-5
Process-7:2
ForkPoolWorker-7
Process-5:4
ForkPoolWorker-5
Process-6:2
ForkPoolWorker-6
Process-7:3
ForkPoolWorker-7
Process-8:1
ForkPoolWorker-8

有什么想法可以让我每次都以相同的方式识别每个进程吗?

编辑1:

我已将程序简化为这样,但想法是相同的:

import random, numpy as np,time
import multiprocessing as mp

def costFunc(i):
    print(mp.current_process().name,mp.Process().name)
    return i*1

class PSO():
    def __init__(self,maxiter,numprocs):

        # Begin optimization Loop
        i = 1
        self.Evol = []

        while i <= maxiter:
            print('\n' + 'Iteration: %r'%i + '\n')
            pool = mp.Pool(processes = numprocs)
            swarm = pool.map_async(costFunc,(i,))
            pool.close()
            pool.join()

            Swarm = swarm.get()

            i += 1

if __name__ == "__main__":
    #mp.set_start_method('spawn')
    PSO(10,1)

输出:

Iteration: 1
ForkPoolWorker-1 Process-1:1
Iteration: 2
ForkPoolWorker-2 Process-2:1
Iteration: 3
ForkPoolWorker-3 Process-3:1
Iteration: 4
ForkPoolWorker-4 Process-4:1
Iteration: 5
ForkPoolWorker-5 Process-5:1
Iteration: 6
ForkPoolWorker-6 Process-6:1
Iteration: 7
ForkPoolWorker-7 Process-7:1
Iteration: 8
ForkPoolWorker-8 Process-8:1
Iteration: 9
ForkPoolWorker-9 Process-9:1
Iteration: 10
ForkPoolWorker-10 Process-10:1

最佳答案

您在循环的每次迭代中创建一个新池,因此池中的进程永远不会被重复使用。

pool = mp.Pool(processes = numprocs)(以及pool.close()pool.join())移出使用 while 循环来重用池中的进程。

关于Python 多处理进程 ID,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/50173344/

相关文章:

python - 谷歌数据存储 - 它会延迟加载吗?

python - 如何使用 pyspark 将 Spark DataFrame 保存回 Google BigQuery 项目?

Python 3.4 多处理不适用于 py2exe

python - 方法内的多处理回调不起作用

python - 无法腌制 redis-py 实例 (_thread.lock)

python - 我可以在单核机器上运行多处理 Python 程序吗?

web-scraping - 内存泄漏在哪里?如何在python的多处理期间超时线程?

python - 如何使用 Python 中同一列的值填充范围内的列?

python - Swig Python 模块中的 C++ 内存泄漏

python - Objective-C 字符串操作