错误 cursor 在 PL/pgSQL 中的第一个循环后不存在

Question

我需要将大量 csv 文件加载到 PostgreSQL 数据库中。 我有一个表source_files ，其中包含文件路径和一个标志，该标志指示是否已经为我需要加载的所有 csv 文件加载了文件。

我编写了以下代码，它正确加载了第一个文件，但随后引发了错误：

ERROR: cursor "curs" does not exist

为什么我会收到此错误，我该如何解决？

DO $$
DECLARE
    file_record record;
    curs CURSOR
        FOR SELECT id, file_path
            FROM source_files
            WHERE added_to_db=FALSE
            ORDER BY id;
BEGIN
    OPEN curs;
    LOOP
        -- Get next entry in source file which contains name of csv to load
        FETCH curs INTO file_record;
        exit WHEN NOT found;
        BEGIN
            -- As we need to add a column to the data after loading csv but before inserting
            -- into final table we use a temporary table mytemp
            DROP TABLE mytemp;

            CREATE TABLE mytemp
            (
                dataA numeric,
                dataB numeric
            );

            -- Load csv file   
            EXECUTE FORMAT('COPY mytemp
                            FROM ''%s''
                            DELIMITER '',''
                            CSV HEADER;', file_record.file_path);

            -- Add Column specifying what source file the data is from
            ALTER TABLE mytemp
                ADD COLUMN source_id int;

            UPDATE mytemp 
                SET source_id=file_record.id;

            -- Add the data to the destination table
            INSERT INTO data_table(
                dataA,
                dataB,
                source_id
            )
            SELECT 
                mytemp.dataA,
                mytemp.dataB
                mytemp.source_id
            FROM 
                mytemp

            -- Set a flag to indicate that the current file in source_files has been loaded
            UPDATE source_files
                SET added_to_db=TRUE WHERE CURRENT OF curs;

            COMMIT;
        END;

    END LOOP;
    CLOSE curs;

END $$;

Answer 1

您的代码有一个大问题是COMMIT 。 您可以在DO语句中使用COMMIT ，但 cursor 会在事务结束后立即关闭。 在 SQL 中，您可以创建一个 cursor WITH HOLD ，它在事务结束后仍然有效，但在 PL/pgSQL 中不可用。

我建议删除COMMIT 。

代码中的另一个错误是您使用了 function format ，这会使您面临 SQL 注入。 代替

FORMAT('COPY mytemp
        FROM ''%s''
        DELIMITER '',''
        CSV HEADER;', file_record.file_path);

利用

FORMAT('COPY mytemp
        FROM %L
        DELIMITER '',''
        CSV HEADER;', file_record.file_path);

您可以通过在循环中使用隐式 cursor 来简化代码：

FOR file_record IN
   SELECT id, file_path
   FROM source_files
   WHERE added_to_db=FALSE
   ORDER BY id
LOOP
   ...
END LOOP;

这样可以节省您声明 cursor 和EXIT WHEN的时间。 无论如何， OPEN和CLOSE语句都是不必要的。