[英]Can i read hadoop file line by line
我想从hadoop文件系统中逐行读取unix框中的记录:
范例-
while read line
do
echo "input record " $line
###some other logic i have here....
done < /user/want/to/read/from/hadoop/part00
上面的代码段显示了我的错误-
**: cannot open [No such file or directory]**
如何使用Unix工具从Hadoop中读取信息?
使用hadoop fs
命令访问以下文件的内容:
while IFS= read -r line; do
echo "Read: $line"
done < <(hadoop fs -cat hdfs://nodename/filename)
注意<()
构造需要bash; 因此,您的脚本需要以#!/bin/bash
开头,而不是#!/bin/sh
。
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.