2017-10-20 245 views
0

我是AWS新手。我正在尝试使用批处理来分析一堆文件。如果我有一个Docker镜像来安装我的分析程序,那么在批处理作业中使用I/O的建议方式是什么?Amazon批处理 - 来自s3的输入文件

  1. 有没有办法使用通用程序访问S3文件?

    /bin/cd-hit -i <s3bucket/input> -o <s3bucket/output.txt>

  2. 或者做人流在作业定义使用Amazon的弹性文件系统挂载为卷,然后访问文件呀?

回答

1
  1. 是否有访问与通用程序S3文件的方法吗?

是的。

  • 或做的人使用亚马逊弹性文件系统,在作业定义安装体积,然后访问文件的方式?
  • 这也是可能的,即使它是更好的考虑S3作为一个键值存储和编写多线程代码访问S3在时尚。

    +1

    此外,EFS更昂贵。 –

    +0

    是的,但使用s3cmd,文件仍然需要存储在某个地方,以便输入到程序中。所以你必须把它复制到某个地方。人们是否只使用通用卷,在那里复制输入文件,然后用s3cmd将输出写入s3? – jwillis0720

    +0

    @ jwillis0720是的,通常会将其复制到本地临时位置 – Istvan

    相关问题