LogQL 中的正则表达式 JSON 过滤

Question

我想将 Kibana 查询转换为 LogQL：

host:("test1-myservice-*") AND level:ERROR 
AND NOT logger_name:"com.example.ExampleClass" 
AND _exists_:stack_trace 
AND NOT stack_trace:(
    "interrupted"
    OR "Read timed out"
    OR "java.lang.InterruptedException"
)

我在 Grafana Explore 中尝试了以下操作，但它没有为我们的 JSON 日志消息返回任何记录：

{host=~"test1-myservice-.*"} | json 
| logger_name != "com.example.ExampleClass" 
| stack_trace !="" 
| stack_trace =~ ".*InterruptedException.*"

使用!=而不是=~它返回所有记录：

{host=~"test1-myservice-.*"} | json 
| logger_name != "com.example.ExampleClass" 
| stack_trace !="" 
| stack_trace !~ ".*InterruptedException.*"

如果我是对的，以下内容适用于文档中的 JSON 日志行的stack_trace字段：

字符串类型的工作方式与日志 stream 选择器中使用的 Prometheus label 匹配器完全相同。 这意味着您可以使用相同的操作 (=,,=,=~.!~)。

来源： Label滤波器表达式

以下似乎有效，但似乎很尴尬：

{host=~"test1-myservice-.*"} | json 
| logger_name != "com.example.ExampleClass" 
| stack_trace !="" 
!~ ".*InterruptedException.*|.*Read timed out.*"
| json

此外，如果我是对的，它会在完整的 JSON 字符串中搜索InterruptedException和Read timed out子字符串，而不仅仅是它的stack_trace字段。

是否有更类似于 LogQL 的方式将上面的 Kibana 查询转换为 LogQL？ !~运算符应该在这种情况下工作吗？

环境：Grafana 7.5.4 / 8.2.3，Loki：2.4.1

Answer 1

不确定您的日志行看起来如何，但我认为您不需要提取标签（通过使用| json

这是一篇关于如何编写查询的非常有用的文章。 how-to-create-fast-queries-with-lokis-logql-to-filter-terabytes-of-logs-in-seconds如果要进行查询，您还可以使用新的模式解析器而不是正则表达式更具可读性。

所以在不知道你的日志行看起来如何的情况下，我认为这应该很好用：

{host=~"test1-myservice-.*"}
!= "com.example.ExampleClass" 
!~ ".*InterruptedException.*|.*Read timed out.*"

根据您的需要，您还可以使用我之前提到的模式解析器。

Answer 2

这有效：

{host=~"test1-myservice-.*"} | json 
| logger_name != "com.example.ExampleClass" 
| stack_trace !="" 
| stack_trace !~ "(?s).*InterruptedException.*"

请注意(?s) ，它可以为 regex 匹配新行. 特点。 （JSON 日志消息的stack_trace字段通常包含多行。）

这也在文档的日志 stream 选择器部分中提到：

注意： =~正则表达式运算符是完全锚定的，这意味着正则表达式必须匹配整个字符串，包括换行符。 正则表达式. 默认情况下，字符不匹配换行符。 如果您希望正则表达式点字符匹配换行符，您可以使用单行标志，如下所示： (?s)search_term.+匹配search_term\n 。