Tensorflow设备vs DeviceContext

Question

我正在实施Tensorflow的新设备。我想在设备和DeviceContext之间进行一些说明。我已阅读this question，但我认为我需要更多信息。

是否应该让我的系统中的每个设备都有一个设备实例，并且设备实例保留有关该物理设备的信息？然后DeviceContext应该维护关于这个设备的运行时信息。

在另一个问题中，答案表明GPU设备维护几个设备上下文，每个设备上下文对应一个流，给予特定作业的流（复制与执行）。这听起来像内核操作绑定到特定的设备上下文，如果是的话，何时/何地发生？

Answer 1

由于GPUDevice有multiple contexts per device，我认为你不需要每个设备都有一个上下文。因此，我同意设备类将包含关于实际硬件的最小数据，设备上下文将表现为更多的设备运行时控制（处理内存分配，数据传输，执行等），由names of the functions在上下文中

内核操作符与GPU中上下文的绑定发生在FillContextMap中，其中计算图节点附加到设备上下文。