簡體   English   中英

運行mapreduce作業時出現IOException

[英]IOException while running mapreduce job

我創建了一個mapreduce作業,以根據某些時間段計算一些監視信息的平均值。 運行正常。 昨天,Hadoop跑步機由於電源故障而意外關閉。 但是重新啟動后,在運行相同的mapreduce作業時,出現以下異常:



    14/01/06 13:16:39 INFO mapred.JobClient: Running job: job_201401060557_0001
    14/01/06 13:16:40 INFO mapred.JobClient:  map 0% reduce 0%
    14/01/06 13:17:00 INFO mapred.JobClient:  map 99% reduce 0%
    14/01/06 13:17:08 INFO mapred.JobClient: Task Id : attempt_201401060557_0001_m_000000_0,

          Status : FAILED
 org.apache.hadoop.ipc.RemoteException: java.io.IOException: failed to create file  
    /user/root/out1/_temporary/_attempt_201401060557_0001_m_000000_0/hi/101-m-00000 on  
    client 192.168.1.149 either because the filename is invalid or the file exists
    at 
 org.apache.hadoop.hdfs.server.namenode.FSNamesystem.startFileInternal(FSNamesystem.java:1265)
    at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.startFile(FSNamesystem.java:1188)
    at org.apache.hadoop.hdfs.server.namenode.NameNode.create(NameNode.java:628)
    at sun.reflect.GeneratedMethodAccessor4.invoke(Unknown Source)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
    at java.lang.reflect.Method.invoke(Method.java:597)
    at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:563)
    at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1388)
    at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1384)
    at java.security.AccessController.doPrivileged(Native Method)
    at javax.security.auth.Subject.doAs(Subject.java:396)
    at     org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1121)
    at org.apache.hadoop.ipc.Server$Handler.run(Server.java:1382)

/ usr / root / out1是為此作業設置的輸出路徑,在運行作業之前已將其清除。 另外我已經關閉了這台機器很多次,但是我沒有得到這樣的例外。 我很抱歉我的數據丟失了! 它也是一個單節點群集。

希望您的幫助

對不起,這是我的錯誤。 我設置了錯誤的組合器!糾正后,它可以工作。

暫無
暫無

聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.

 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM