有没有办法在Azure上创建一个作业或Azure服务来将Azure blob文件移动(切割)到Azure数据存储区?如何将azure blob文件复制到azure数据分析解决方案
回答
我会说Azure Data Factory非常适合这一点。它支持调度(https://docs.microsoft.com/en-us/azure/data-factory/data-factory-scheduling-and-execution),它支持将数据从Blob传输到Azure Data Lake。看到这个例子:https://docs.microsoft.com/en-us/azure/data-factory/data-factory-azure-datalake-connector
从网站:
数据工厂是编排和自动数据的移动和转换基于云的数据集成服务。您可以使用Data Factory服务创建数据集成解决方案,该服务可以从各种数据存储中提取数据,转换/处理数据并将结果数据发布到数据存储。
数据工厂服务允许您创建移动和转换数据的数据管道,然后运行指定的时间表(小时,每日,每周等)的管道。它还提供了丰富的可视化功能,可显示数据管道之间的沿袭和依赖关系,并可从单一统一视图监控所有数据管道,轻松查明问题并设置监控警报。
https://docs.microsoft.com/en-us/azure/data-factory/data-factory-introduction
Azure的数据分析湖是的计算服务,而不是数据存储。
数据湖分析工作可以连接到数据上:
- 数据湖店
- Azure存储(BLOB):看到https://docs.microsoft.com/en-us/azure/data-lake-analytics/data-lake-analytics-manage-use-portal#manage-account-data-sources
- 其他来源通过联合查询:http://sqlblog.com/blogs/jorg_klein/archive/2016/06/17/setup-azure-data-lake-analytics-federated-u-sql-queries-to-azure-sql-database.aspx
因此,您可以将数据保留在blob存储中,或使用Azure Data Factory将其转移到Data Lake Store,以获得最佳的分析性能并享受它的优势其他好处(见https://docs.microsoft.com/en-us/azure/data-lake-store/data-lake-store-overview)。
- 1. 如何将Azure Blob文件复制到Azure本地存储
- 2. 文件复制解决方案
- 3. Azure数据同步 - 将每个SQL行复制到Blob
- 4. 将图像文件从URI复制或下载到Azure Blob
- 5. 将SQL数据库从Azure Blob Azure上传到SQL数据库
- 6. Windows Azure Visual Studio解决方案
- 7. Azure AD Owin with Iframe解决方案
- 8. Visual Studio,将解决方案复制到构建文件夹
- 9. 如何发布一个多项目解决方案到azure
- 10. 将大文件上传到azure blob
- 11. 将文件上传到Azure Blob存储
- 12. 将多项目MVC4解决方案部署到Azure失败
- 13. 无法将Azure CloudService项目添加到现有解决方案
- 14. 将ASP.NET Core解决方案与类库一起部署到Azure
- 15. 将内部部署解决方案迁移到Azure
- 16. Azure:部署不属于解决方案的文件
- 17. Azure创建数据磁盘并将文件复制到它
- 18. 有效地从Azure的Blob存储的数据复制到S3
- 19. 将Azure数据工厂复制活动复制到Azure Data Lake表
- 20. 如何将包含两个项目的解决方案部署到Azure App Service?
- 21. 如何将压缩数据发送到Azure流分析?
- 22. Window Azure解决方案 - 未在本地解决方案下运行
- 23. 实时事件分析解决方案的最佳数据库
- 24. 如何将zip文件上传到azure blob然后解压缩到那里
- 25. 重构解决方案文件夹到新解决方案
- 26. Azure blob存储文件路径限制
- 27. 如何组织使用多个Azure功能的解决方案?
- 28. 如何在python中将数据流式传输到azure块blob
- 29. 如何将文件上传到Asp.Net Core中的azure blob?
- 30. 如何将本地文件复制到Azure存储(V2)
谷歌的第一个结果:https://docs.microsoft.com/en-us/azure/data-lake-store/data-lake-store-copy-data-azure-storage-blob – RandomStranger
谢谢,我是在这。我的问题是,我是否总是需要手动运行这些命令来执行此操作,还是可以创建一个将在稍后自动执行此操作的作业? –