分布式单台机器上的多个工作人员TensorFlow

Question

是否可以在本地机器上启动分布式TensorFlow，方式是每个工人都有该模型的副本？

如果是，是否可以分配每个代理只使用一个CPU内核？

Answer 1

对于你的第一个问题，答案是肯定的。更多细节在这里：https://www.tensorflow.org/versions/r0.9/how_tos/distributed/index.html

对于第二个问题，我不确定Tensorflow在核心级别是否具有这种细粒度控制级别;但总的来说，操作系统将在多个内核上平衡线程负载。

请注意，如果您有多个CPU/GPU，Tensorflow确实能够在处理器级别指定设备。

Answer 2

是有可能推出distributed Tensorflow locally：

每个任务通常在不同的机器上运行，但你可以在同一台机器上运行多个任务（例如控制不同的GPU设备）。

，并以这样的方式，每个工人有same graph：

如果您正在使用一个以上的图形在同一进程（与tf.Graph（）创建的），你将不得不为每个图形使用不同的会话，但每个图形可用于多个会话。

正如您的意见提及，有一个如何尝试和实现分布式TF的执行到single core这涉及分发到不同的CPU，然后限制线程池到单个线程的建议。

当前没有允许将TF图分布式执行到特定内核的功能。