PostgREST / PostgreSQL 无法放大字符串缓冲区消息

Question

我在运行的 postgREST API 上遇到了无法放大字符串缓冲区消息。 我猜有些表太大而无法成功使用 API。

我正在使用来自https://hub.docker.com/r/postgrest/postgrest的 docker postgrest/postgrest 容器和 PostgREST 5.1.0 版本。

一切都按预期工作，但如果表大小变得太大，我会收到以下错误消息。

hint    null
details "Cannot enlarge string buffer containing 1073741822 bytes by 1 more bytes."
code    "54000"
message "out of memory"

我无法确定它在工作与否时的阈值。 是否有可能扩大某些配置文件中的字符串缓冲区或这是硬编码的？

使用 API 的表大小是否有任何限制。 到目前为止，我在文档中找不到任何信息。

============ 更新

postgres 日志给了我以下 SQL 查询：

WITH pg_source AS (
  SELECT "public"."n_osm_bawue_line".* 
  FROM "public"."n_osm_bawue_line"
) 
SELECT null AS total_result_set, 
       pg_catalog.count(_postgrest_t) AS page_total, 
       array[]::text[] AS header, 
       coalesce(json_agg(_postgrest_t), '[]')::character varying AS body 
FROM ( 
  SELECT * 
  FROM pg_source
) _postgrest_t

我使用以下 postgres 版本：

"PostgreSQL 11.1 (Debian 11.1-1.pgdg90+1) on x86_64-pc-linux-gnu, compiled by gcc (Debian 6.3.0-18+deb9u1) 6.3.0 20170516, 64-bit"

Answer 1

除非你重新编译 PostgreSQL 是不可能升级的限制（定义在这里）。

我的建议是尝试减少有效负载的大小（您确定需要所有数据吗？）或在多个请求中获取所有有效负载。

使用 PostgREST，您可以进行垂直过滤（只需选择您需要的列）或分页以减少您在一个请求中获得的行数。

Answer 2

错误消息来自 PostgreSQL。 PostgREST 只是将消息包装在 JSON 中并发送 HTTP 响应。

作为查找问题的第一步，请查看触发错误的确切 HTTP 请求是什么。

然后，启用PostgreSQL 日志记录并重复请求，检查日志，然后您将看到导致此错误的 SQL 查询是什么。 通过 pgAdmin 或 psql 运行查询以确保您得到有问题的查询。

用你的发现更新你的问题。 SQL 查询将是继续所需的内容。

之后，您可以在问题中添加 postgresql 标签。

Answer 3

由于多种原因，导入的文件总是有可能损坏或格式错误。

我只是碰巧在我的案例中发现我的文件有类似不正确的行结尾（长篇大论，这里没有必要）导致整个文件显示为一行，从而导致明显的结果。 在您的情况下，您可能有类似的事情需要查找+替换解决方案。

无论对其他人有什么好处，我都用它来解决它：

tr -d '\\0' < bad_file.csv > bad_file.csv.fixed