我正在尝试为我的 CNN 运行 Talos 超参数搜索。 Talos 的 multi_gpu 功能拥有 6 个 GPU 来更快地运行实验，看起来很方便。
my_new_model = multi_gpu(my_new_model, gpus=6)
my_new_model.compile(...)
需要在model.compile之前调用该函数。
但是看起来，仍然只有一个作业同时执行。 我希望能够同时处理 6 条可能路径的实验。现在它仍然一个接一个地工作。
有什么想法吗？
最佳答案
multi_gpu 用于在单个计算机上的多个 GPU 上运行单个任务。
根据您在数据集、架构、参数等方面所做的工作，这可以显着减少实验时间。尽管排列仍然“一个接一个”地执行，但每个排列的执行时间更短。
关于python - Talos 多 GPU 功能，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/57027924/