繁体   English   中英

将数据从Azure Blob复制到Azure Data Lake的最佳(快速)方法

[英]Best (quick) way to copy data from Azure Blob into Azure Data Lake

将数据从Azure Blob复制到Azure Data Lake存储的最佳(最快)方法是什么? 此副本是一次性工作。 数据集约为50 G,包括约10个文件。 每个文件约有20列。

我已经看过Azure数据工厂,它需要为Azure数据工厂中的每个文件创建日期集。 这是非常乏味的。

您可以使用AdlCopy将Azure存储Blob复制到Azure Data Lake Store。

作为遇到这个问题的人的当代答案。

这取决于您是指“发展速度”还是“转移速度”。

我怀疑基于您对数据工厂的关注而发展的速度。

Data Factory现在具有一个“复制数据向导”,可以快速设置这些内容。

从问题的年龄来看,这很可能在Data Factory V1的时间范围内。 Data Factory V2现已推出,而且容易得多。

复制数据向导

https://docs.microsoft.com/en-gb/azure/data-factory/quickstart-create-data-factory-copy-data-tool

关于传输速度,Data Factory发布了以下统计数据,因此传输速度约为105MB / s,我想甚至更快。

Blob存储和ADLS之间数据工厂的传输速度

对于Azure Data Lake Gen2,文档中不再提到AdlCopy,而是提到了AzCopy。

我知道您已经回答了您的问题,但是以防万一将来人们遇到这个问题。

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM