在 Grafana 中组合来自 Loki 的多个日志行

Question

我通过 Loki 有 http 日志（fastify pino 格式）的 stream 看起来像：

[2022-07-25T16:59:40.796Z] INFO: incoming request {"req":{"method":"GET","url":"/api/v1/teams/6vYE9rpOPl/members","hostname":"forge.flowforge.loc","remoteAddress":"10.1.106.162","remotePort":38422},"reqId":"req-t6"}
[2022-07-25T16:59:40.810Z] INFO: request completed {"res":{"statusCode":200},"responseTime":13.292339086532593,"reqId":"req-t6"}

我想按路径显示平均响应时间，但我正在努力研究如何组合由reqId相关的 2 条日志行以将url和responseTime结合在一起。

我可以分别提取和解析两行的 json 但不能一起解析。

Answer 1

我认为仅靠 Loki 是行不通的。 为此，您需要：

• 某种不支持的连接（参见https://github.com/grafana/loki/issues/3567 ），或
• 某种支持但以非常有限的方式的分组/聚合（ https://grafana.com/docs/loki/latest/logql/metric_queries/#log-range-aggregations ）

我能想到的一种解决方案是使用Grafana 转换：

• 使用 LogQL 模式和line_format从日志中提取 JSON 部分，使line字段变为有效的 JSON。 不要在 LogQL 中解析 JSON：提取的字段稍后不会被 Grafana 转换识别。
• 应用“提取字段”转换以解析 JSON（转换当前处于 Alpha 版本）
• 添加合并转换
• 通过 reqId 进行外部连接
• 按reqId 分组

Grafana 转换非常强大，但也有点不直观，因此解决方案需要一些试验。 调试转换功能可能会有所帮助。