将 JSON 与 LogStash 结合使用

Question

我要疯了。 我有一个将日志写入文件的应用程序。 每个日志条目都是一个 JSON 对象。 我的 .json 文件示例如下所示：

{"Property 1":"value A","Property 2":"value B"}
{"Property 1":"value x","Property 2":"value y"}

我正在拼命地将日志条目放入 LogStash。 为此，我创建了以下 LogStash 配置文件：

input {
  file {
    type => "json"
    path => "/logs/mylogs.log"
    codec => "json"
  }
}
output {
  file {
    path => "/logs/out.log"
  }
}

现在，我正在手动将记录添加到 mylogs.log 以尝试使其正常工作。 但是，它们在标准输出中的出现很奇怪。 当我查看 open out.log 时，我看到如下内容：

{"message":"\"Property 1\":\"value A\", \"Property 2\":\"value B\"}","@version":"1","@timestamp":"2014-04-08T15:33:07.519Z","type":"json","host":"ip-[myAddress]","path":"/logs/mylogs.log"}

因此，如果我将消息发送到 ElasticSearch，我将无法获取字段。 相反，我得到了一个混乱的烂摊子。 我需要我的属性仍然是属性。 我不希望它们塞进消息部分或输出中。 我有一种预感，这与编解码器有关。 然而，我不确定。 我不确定是否应该更改 logstash 输入配置上的编解码器。 或者，如果我应该更改输出配置上的输入。 我会真诚地感谢任何帮助，因为我在这一点上变得绝望。

谢谢。

Answer 1

尝试删除json 编解码器并添加json 过滤器

input {
  file {
    type => "json"
    path => "/logs/mylogs.log"
  }
}
filter{
    json{
        source => "message"
    }
}
output {
  file {
    path => "/logs/out.log"
  }
}

您不需要 json 编解码器，因为您不想解码源 JSON，但您只想过滤输入以获取 @message 字段中的 JSON 数据。

希望这可以帮助。

Answer 2

默认情况下，如果未指定 json 编解码器，tcp 会将所有内容放入消息字段。

在我们指定 json 编解码器后消息字段的_jsonparsefailure的解决方法也可以通过执行以下操作来纠正：

input {
  tcp {
    port => '9563'
  }
}
filter{
  json{
    source => "message"
    target => "myroot"
  }
  json{
    source => "myroot"
  }

}
output {
    elasticsearch {
      hosts => [ "localhost:9200" ]
    }
}

它会将消息字段解析为正确的 json 字符串以输入 myroot，然后解析 myroot 以生成 json。

我们可以删除像消息这样的冗余字段

filter {
  json {
    source => "message"
    remove_field => ["message"]
  }
}

Answer 3

试试这个：

filter {
  json {
        source => "message"
        target => "jsoncontent" # with multiple layers structure
  }
}