1
想知道是否有某种“挂钩”放置一段代码,当apache束流管道正在关闭时执行(无论出于何种原因 - 崩溃,取消)Google Cloud Dataflow - Apache Beam - 管道关闭挂钩
每次数据流停止时,我需要删除pubsub主题上的订阅。
想知道是否有某种“挂钩”放置一段代码,当apache束流管道正在关闭时执行(无论出于何种原因 - 崩溃,取消)Google Cloud Dataflow - Apache Beam - 管道关闭挂钩
每次数据流停止时,我需要删除pubsub主题上的订阅。
Apache Beam并不适合这种流程。为此,您可能需要查看业务流程引擎,如Apache Airflow。
使用Airflow,您应该能够安排任何类型的脚本在Beam管线完成/失败/被取消之后运行等。请看看它!