為什么 nifi 會丟失流文件內容？

Question

我正面臨一個非常奇怪的問題。

此錯誤在“EvaluateJsonPath 1.6.0”處理器中隨機出現。 我的工作流程中有 3 個該處理器的實例。 錯誤是隨機出現的，不是在同一個地方出現的。

有時流程運行良好（很少）。 這個錯誤足夠頻繁，但錯誤的位置是隨機的。

流程是這樣的 => 觸發 http url -> eval 結果 Json -> 獲取更多 URL -> 調用那些 http url -> 執行 eval -> 等待 -> 合並所有結果 -> 寫入 fs -> 結束

等待部分代碼等待大約 30 分鍾。

每個關系都有足夠的緩沖區（5 GB，100000 ff）。 而且我看不到任何背壓。

系統有足夠的剩余內存。 jvm 也在 28gb 堆上運行。

我在 v 1.6.0

可能是什么原因？ 是一些后台進程，清理文件，在進程釋放它之前？

有沒有可能，我可能已經配置了一些優化，這使得 nifi 清理內容文件夾？ 它不像，內容文件夾是空的，它仍然有舊文件，所以不能這樣。

我真的很困惑。

我可以看到以下堆棧跟蹤

`

2018-11-14 12:04:04,120 ERROR [Timer-Driven Process Thread-2] o.a.n.p.standard.EvaluateJsonPath EvaluateJsonPath[id=d9d338ca-5396-3f8c-e134-753aacda1ca6] EvaluateJsonPath[id=d9d338ca-5396-3f8c-e134-753aacda1ca6] failed to process session due to org.apache.nifi.processor.exception.MissingFlowFileException: Unable to find content for FlowFile; Processor Administratively Yielded for 1 sec: org.apache.nifi.processor.exception.MissingFlowFileException: Unable to find content for FlowFile
org.apache.nifi.processor.exception.MissingFlowFileException: Unable to find content for FlowFile
        at org.apache.nifi.controller.repository.StandardProcessSession.handleContentNotFound(StandardProcessSession.java:3104)
        at org.apache.nifi.controller.repository.StandardProcessSession.read(StandardProcessSession.java:2228)
        at org.apache.nifi.controller.repository.StandardProcessSession.read(StandardProcessSession.java:2175)
        at org.apache.nifi.processors.standard.AbstractJsonPathProcessor.validateAndEstablishJsonContext(AbstractJsonPathProcessor.java:77)
        at org.apache.nifi.processors.standard.EvaluateJsonPath.onTrigger(EvaluateJsonPath.java:271)
        at org.apache.nifi.processor.AbstractProcessor.onTrigger(AbstractProcessor.java:27)
        at org.apache.nifi.controller.StandardProcessorNode.onTrigger(StandardProcessorNode.java:1147)
        at org.apache.nifi.controller.tasks.ConnectableTask.invoke(ConnectableTask.java:175)
        at org.apache.nifi.controller.scheduling.TimerDrivenSchedulingAgent$1.run(TimerDrivenSchedulingAgent.java:117)
        at java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:511)
        at java.util.concurrent.FutureTask.runAndReset(FutureTask.java:308)
        at java.util.concurrent.ScheduledThreadPoolExecutor$ScheduledFutureTask.access$301(ScheduledThreadPoolExecutor.java:180)
        at java.util.concurrent.ScheduledThreadPoolExecutor$ScheduledFutureTask.run(ScheduledThreadPoolExecutor.java:294)
        at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1149)
        at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:624)
        at java.lang.Thread.run(Thread.java:748)
Caused by: org.apache.nifi.controller.repository.ContentNotFoundException: Could not find content for StandardContentClaim [resourceClaim=StandardResourceClaim[id=1542197040430-4449, container=default, section=353], offset=844526, length=142607]
        at org.apache.nifi.controller.repository.StandardProcessSession.getInputStream(StandardProcessSession.java:2167)
        at org.apache.nifi.controller.repository.StandardProcessSession.read(StandardProcessSession.java:2192)
        ... 14 common frames omitted
Caused by: java.io.EOFException: null
        at org.apache.nifi.stream.io.StreamUtils.skip(StreamUtils.java:242)
        at org.apache.nifi.controller.repository.FileSystemRepository.read(FileSystemRepository.java:859)
        at org.apache.nifi.controller.repository.StandardProcessSession.getInputStream(StandardProcessSession.java:2135)
        ... 15 common frames omitted

`

Answer 1

經過一番搜索，似乎有兩種問題會導致這樣的錯誤。

1. 關於消息內容的問題

這種問題應該是可重現的，因此如果一條消息在您的管道中失敗一次，則在您重新運行它時它應該會再次失敗。 這些問題應該很容易解決。

需要注意的是不正確的消息內容，甚至可能是空消息。

2. 內容存儲庫問題

當 Nifi 攝取一條消息時，它會被放入內容存儲庫，直到需要再次觸摸它。 第二種可能是存儲庫有問題。

可能的原因是對存儲庫的外部干擾（其他寫入/刪除/鎖定內容）。 或者可能是操作系統級別的問題。 由於這篇 HCC 帖子，我找到了這個角度： https : //community.hortonworks.com/questions/231364/nifi-processing-files-as-zero-bytes.html

我無法幫助深入研究，但如果您已經安排了 Cloudera（Nifi 背后的驅動力）的支持，則支持團隊應該能夠在需要時進行進一步調查。

完全披露：我是Cloudera的員工

Answer 2

我們在集群中遇到了類似的問題。 您找到解決方法了嗎？ 我在Nifi處理中打開了類似的線程Missing Flowfile異常，導致信息丟失