[英]Consuming nested JSON message from Kafka with ClickHouse
如果它們是平面 JSON 文檔,Clickhouse 絕對可以讀取來自 Kafka 的 JSON 消息。
我們在 Clickhouse 中使用kafka_format = 'JSONEachRow'
來表示這一點。
這是我們目前使用它的方式:
CREATE TABLE topic1_kafka
(
ts Int64,
event String,
title String,
msg String
) ENGINE = Kafka
SETTINGS kafka_broker_list = 'kafka1test.intra:9092,kafka2test.intra:9092,kafka3test.intra:9092',
kafka_topic_list = 'topic1', kafka_num_consumers = 1, kafka_group_name = 'ch1',
kafka_format = 'JSONEachRow'
只要生產者將平面 JSON 發送到topic1_kafka
就可以了。 但並非所有生產者都發送平面 JSON,大多數應用程序會生成嵌套的 JSON 文檔,如下所示:
{
"ts": 1598033988,
"deviceId": "cf060111-dbe6-4aa8-a2d0-d5aa17f45663",
"location": [39.920515, 32.853708],
"stats": {
"temp": 71.2,
"total_memory": 32,
"used_memory": 21.2
}
}
不幸的是,上面的 JSON 文檔與JSONEachRow
不兼容,因此 ClickHouse 無法將 JSON 文檔中的 map 字段映射到表中的列。
有沒有辦法做這個映射?
編輯:我們希望將嵌套的 json map 放到這樣的平面表中:
CREATE TABLE topic1
(
ts Int64,
deviceId String,
location_1 Float64,
location_2 Float64,
stats_temp Float64,
stats_total_memory Float64,
stats_used_memory Float64
) ENGINE = MergeTree()
看起來曾經的方法是將“原始”數據作為字符串獲取,然后使用消費者物化視圖中的JSON 函數處理每一行。
WITH '{"ts": 1598033988, "deviceId": "cf060111-dbe6-4aa8-a2d0-d5aa17f45663", "location": [39.920515, 32.853708], "stats": { "temp": 71.2, "total_memory": 32, "used_memory": 21.2 }}' AS raw
SELECT
JSONExtractUInt(raw, 'ts') AS ts,
JSONExtractString(raw, 'deviceId') AS deviceId,
arrayMap(x -> toFloat32(x), JSONExtractArrayRaw(raw, 'location')) AS location,
JSONExtract(raw, 'stats', 'Tuple(temp Float64, total_memory Float64, used_memory Float64)') AS stats,
stats.1 AS temp,
stats.2 AS total_memory,
stats.3 AS used_memory;
/*
┌─────────ts─┬─deviceId─────────────────────────────┬─location──────────────┬─stats────────────────────────┬─temp─┬─total_memory─┬────────used_memory─┐
│ 1598033988 │ cf060111-dbe6-4aa8-a2d0-d5aa17f45663 │ [39.920513,32.853706] │ (71.2,32,21.200000000000003) │ 71.2 │ 32 │ 21.200000000000003 │
└────────────┴──────────────────────────────────────┴───────────────────────┴──────────────────────────────┴──────┴──────────────┴────────────────────┘
*/
備注:對於浮點數,應使用類型Float64而不是Float32 (參見相關的CH Issue 13962 )。
使用標准數據類型需要更改 JSON 的架構:
CREATE TABLE test_tuple_field
(
ts Int64,
deviceId String,
location Array(Float32),
stats Tuple(Float32, Float32, Float32)
) ENGINE = MergeTree()
ORDER BY ts;
INSERT INTO test_tuple_field FORMAT JSONEachRow
{ "ts": 1598033988, "deviceId": "cf060111-dbe6-4aa8-a2d0-d5aa17f45663", "location": [39.920515, 32.853708], "stats": [71.2, 32, 21.2]};
CREATE TABLE test_nested_field
(
ts Int64,
deviceId String,
location Array(Float32),
stats Nested (temp Float32, total_memory Float32, used_memory Float32)
) ENGINE = MergeTree()
ORDER BY ts;
SET input_format_import_nested_json=1;
INSERT INTO test_nested_field FORMAT JSONEachRow
{ "ts": 1598033988, "deviceId": "cf060111-dbe6-4aa8-a2d0-d5aa17f45663", "location": [39.920515, 32.853708], "stats": { "temp": [71.2], "total_memory": [32], "used_memory": [21.2] }};
查看相關答案ClickHouse JSON parse exception: Cannot parse input: expected ',' before 。
我只想指出上述評論的一個問題:嵌套類型不適用於 OP 的 json 結構,因為它需要每個子節點中的數組。
聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.