簡體   English   中英

將文件從FTP復制到HDFS

[英]copy files from FTP to HDFS

我需要將文件從我的集群外的FTP服務器復制到Hadoop即HDFS。

提前致謝。

你試過這個嗎? FTP到HDFS ...您可以修改此代碼並將文件的參數更改為FTP a agrs [0]和HDFS Paht更改為args [1]。 而不是像hadoop jar一樣運行它。 希望這會有所幫助......

您是否查看了WebHDFS( http://hadoop.apache.org/docs/r1.0.4/webhdfs.html )或HttpFS( http://hadoop.apache.org/docs/r2.2.0/hadoop-hdfs-httpfs /index.html

這些服務需要訪問Hadoop集群,然后您可以將HttpFS端口公開給可以訪問FTP服務器的服務器。

試試這個:

hadoop fs -get ftp:// uid:password @ server_url / file_path temp_file | hadoop fs -moveFromLocal tmp_file hadoop_path / dest_file

暫無
暫無

聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.

 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM