python - 加载 TensorFlow 后派生一个 python 进程

Question

tf.Session() 不是 fork 安全的，这意味着当 TensorFlow 加载到内存未知。

是否有任何解决方法可以在多个进程之间共享多个设备(在一台机器上)？

Answer 1

在多个进程之间共享 TensorFlow 运行时的标准方法是使用 distributed TensorFlow support ，它也适用于单台机器。

在一个进程中，您可以通过运行以下代码来启动服务器:

import tensorflow as tf
server = tf.train.Server.create_local_server()
print server.target  # for other processes to connect
server.join()

默认情况下，此进程将拥有机器上的所有设备。

在其他进程中，您可以创建连接到服务器的tf.Session对象:

sess = tf.Session("grpc://localhost:...")  # Use value of `server.target`.

这些 session 可以像进程内 session 一样使用。