python - 在排队集群上使用 Python 进行并行计算

标签 python performance parallel-processing cluster-computing

lots用于线程化/并行化 python 的不同模块。 Dispypp/ParallelPython看起来特别受欢迎。看起来这些都是为具有许多内核/处理器的单一界面(例如桌面)设计的。是否有一个模块可以在由队列系统运行的大规模并行架构上工作(特别是:SLURM)?

最佳答案

科学/技术应用大型计算集群上最常用的并行框架是 MPI 。 Python包的名称是MPI4py ,这是 SciPy 的一部分.

MPI 提供了一个高级 API,用于使用通过网络进行通信的消息来创建并行软件;远程进程创建、数据分散/收集、缩减等。所有实现都能够利用快速且低延迟的网络(如果存在)。它与所有集群管理器完全集成,包括 Slurm .

关于python - 在排队集群上使用 Python 进行并行计算,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/27195658/

相关文章:

c# - 为什么 .NET 线程的性能不如单独的 .NET 进程?

java - 在流管道中放置 parallel() 调用的位置重要吗?

c# - 多个API调用的Asp.net MVC4并行编程

python - 如何从文本文件python中删除最大数字的行?

performance - 快速排序分区

php - 如何在 Python 和 PHP 之间传输数据

javascript - 隐藏移动版网站内容的最有效方法是什么?

c# - 从定义数量的文件中进行并行读取

python - PyPy 在 CPython、Jython 和 IronPython 上提供了什么?

python - 地 block 大小在html显示和pdf之间变化