我想为Azure blob conainters创建链接服务,Azure blob conainters的帐户信息来自Azure SQL数据库。由于条目和帐户信息的数量是动态的,所以我无法在Azure数据工厂的设置部分定义链接到Azure blob容器的服务。 可以动态直接创建Azure数据工厂中的链接服务吗?Azure Data Factory管道
0
A
回答
2
不幸的是,在当前版本的ADF中这是不可能的。您只能使用函数来引用相对于流水线执行的元素(执行日期/时间)。您不能使用其他数据源动态定义斑点名称。
从这里您可以使用数据工厂功能以及与上述用于以下目的 系统变量:
- 指定数据选择查询(见连接器的文章在数据移动活动的文章中引用 语法调用数据 工厂功能是:$$用于数据选择查询和其他 属性在活动和数据集中
- 在活动0123中指定数据工厂函数的输入相关性输入集合(参见上面的示例)。指定 输入依赖关系表达式不需要$$。
:https://docs.microsoft.com/en-us/azure/data-factory/data-factory-functions-variables
这是目前可以做的blob输入的一切:https://docs.microsoft.com/en-us/azure/data-factory/data-factory-azure-blob-connector
你的情况,我会建议,如果你可以重新定义你的输入斑点有名称/文件夹可以从执行管道的日期/时间派生,而不是您可以获得的功能。
或者你可以有一个从sql获取信息的usql调用,然后将blob移动到日期标记的文件夹中,然后管道可以接收。
0
嗯,我认为这将通过Powershell脚本与数据工厂cmdlet和Azure功能的结合来运行它们。因此,PowerShell需要连接并从存储中获取schmas,创建数据集并部署它们,更改管道,设置管道调度和添加/删除元素,然后恢复(或仅设置当天管道启动)进程。但这需要相当多的工作。
但是,第2版中的Data Factory现在提供了更多的选项,包括使用SSIS,以便解决这个问题。
相关问题
- 1. 在Azure Data Factory中运行.NET .exe
- 2. Azure Data Factory .NET SDK活动指标
- 3. 从Azure Data Factory Pipeline获取按需数据
- 4. Azure Data Factory中的SFTP支持不起作用?
- 5. Azure Data Factory无声无息地落后于计划
- 6. Azure Data Factory - 无法从“null”转换为日期时间字段
- 7. HDInsight在Azure Data Factory Hive中CREATE EXTERNAL TABLE ... LOCATION:No FileSystem for scheme:adl
- 8. 使用Azure Data Factory删除远程文件
- 9. Azure Data Factory是否适合从非Azure REST API中下载数据?
- 10. Azure DataFactory管道超时
- 11. Azure Data Lake:对Azure Data Lake Store的请求未经授权
- 12. spring data redis集群管道支持
- 13. Azure Data Factory中是否有类似于SSIS中的FOR/FOREACH循环的东西?
- 14. 如何使用Azure Data Factory将Json文档Unpivot转换为SQL数据库
- 15. 如何使用Azure Powershell删除名称以Azure Data Factory中的特定文本开头的所有数据集?
- 16. 如何使用Azure Data Factory将数据从MySQL逐步导入Azure数据仓库?
- 17. WCF命名管道和Azure Web角色
- 18. Angular Service Factory Factory
- 19. 微软Azure Data Lake存储
- 20. Azure Data Factory - 如何将数据工厂项目从我的帐户移动到另一个帐户?
- 21. 有没有办法选择使用Azure Data Factory进行处理的最新文件?
- 22. 具有WebJob/Azure功能的Azure Data Lake Store和Azure SQL
- 23. Azure数据工厂管道的多个接收器
- 24. Python - 简单的读管道从管道
- 25. Angular factory keep undefined
- 26. ngresource factory returns undefined
- 27. 在C++中使用管道()的管道管道
- 28. AngularJS factory undefined error
- 29. Azure Data Lake中的U-SQL输出
- 30. Azure Data Lake Analytics中的内存限制
我注意到下面的答案-1,以澄清你是否有一个单一的数据工厂实例,当运行可以通过查询一个SQL数据库的配置更改它的链接服务?或者是为每组帐户信息预先创建大量数据工厂管道? –