2013-05-01 65 views
1

有没有人有过数据管道的经验?在aws数据管道上传递参数

我一直在试图找出是否有办法在管道中的活动之间传递参数。不幸的是,aws文档对这些问题没有太大的帮助...... 可以说我有一个ShellCommandActivity和一个EmrActivity。 我想从我的ShellCommandActivity一个字符串,我以后可以使用作为我EmrActivity参数(可以说文件名或S3路径) 或可能在管道的其他对象 - 例如数据节点

任何帮助将不胜感激

+0

我有类似的问题来解决任何其他解决方案将高度赞赏。 – 2017-07-11 05:44:55

回答

1

实现这一目标的一种方法是让shell脚本将字符串写入S3中的某个文件。在EMR活动中读取文件。另外添加EMR活动取决于ShellCommandActivity

+1

谢谢你的回答。我们最终发现的解决方案不是使用aws数据管道。推出我们自己的...更简单 – gurus3rd 2013-12-16 16:35:51