在Google Cloud ML引擎上运行分布式Tensorflow ClusterSpec

Question

我试图在Google Cloud的ML引擎上运行大型分布式张量流模型，并且无法理解tf.train.ClusterSpec应该如何运行。

当您在Google Cloud上运行作业时，您可以从BASIC，STANDARD_1，PREMIUM_1，BASIC_GPU或CUSTOM中选择scale tier，每个都可以访问不同类型的群集。但是，我无法在这些群集中找到机器的名称/地址。

Answer 1

请查看文档和示例here。您应该使用环境变量TF_CONFIG设置ClusterSpec;例如

tf_config = os.environ.get('TF_CONFIG') 

    # If TF_CONFIG is not available run local 
    if not tf_config: 
    return run('', True, *args, **kwargs) 

    tf_config_json = json.loads(tf_config) 
    cluster = tf_config_json.get('cluster') 
    ... 
    cluster_spec = tf.train.ClusterSpec(cluster)