使用HSSF的Apache POI比使用XSSF快得多-接下来是什么？

Question

我在使用Apache POI解析.xlsx文件时遇到了一些问题-我在部署的应用程序中遇到了java.lang.OutOfMemoryError: Java heap space 。 我仅处理5MB以下和大约70,000行以下的文件，因此我在阅读其他问题时怀疑是什么地方不对劲。

如本注释中所建议，我决定使用建议的变量运行SSPerformanceTest.java ，以便查看我的代码或设置是否存在任何问题。 结果显示HSSF（ .xls ）和XSSF（ .xlsx ）之间存在显着差异：

1） HSSF 50000 50 1：经过1秒

2） SXSSF 50000 50 1：经过5秒

3） XSSF 50000 50 1：经过15秒

常见问题解答专门说明：

如果您在3秒内无法在所有HSSF，XSSF和SXSSF中使用50,000行和50列来运行它（最好少得多！），那么问题就出在您的环境上。

接下来，它说运行我完成的XLS2CSV.java 。 馈送上面生成的XSSF文件（具有50000行和50列）大约需要15秒，与写入文件所花费的时间相同。

我的环境有问题吗？如果是，我该如何进一步调查？

VisualVM的统计数据显示，处理期间使用的堆内存高达1.2Gb。 考虑到与处理开始之前相比，堆顶部还有额外的演出，这肯定太高了吗？

注意：上面提到的堆空间异常仅在生产环境中（在Google App Engine上）发生，并且仅对.xlsx文件发生，但是此问题中提到的测试已全部在带有-Xmx2g开发计算机上-Xmx2g 。 我希望，如果可以在开发设置中解决此问题，则部署时将使用较少的内存。

来自应用程序引擎的堆栈跟踪：

引起原因：java.lang.OutOfMemoryError：org.apache.xmlbeans.impl.store.Cur $ CurLoadContext.startElement（org.apache.xmlbeans.impl.store.Cur.createElementXobj（Cur.java:260）处的Java堆空间org.apache.xmlbeans.impl.store.Locale $ SaxHandler.startElement（Locale.java:3211）处的Cur.java:2997）org.apache.xmlbeans.impl.piccolo.xml.Piccolo.reportStartTag（Piccolo.java： 1082），网址为org.apache.xmlbeans.impl.piccolo.xml.PiccoloLexer.parseAttributesNS（PiccoloLexer.java:1802），网址为org.apache.xmlbeans.impl.piccolo.xml.PiccoloLexer.parseOpenTagNS（PiccoloLexer.java:1521）

Answer 1

我遇到了使用Apache POI读取庞大的.xlsx文件的问题，并且遇到了

excel-streaming-reader-github

该库充当该流API的包装，同时保留标准POI API的语法

该库可以帮助您读取大文件。

Answer 2

我工作的平均XLSX工作表约为18-22张，共750 000行，13-20列。 在Spring Web应用程序中，它具有许多其他功能。 我没有为整个应用程序-Xms1024m -Xmx4096m太多的内存： -Xms1024m -Xmx4096m效果很好！

首先转储代码：将每个数据行加载到内存中并开始转储是错误的。 就我而言（从PostgreSQL数据库中报告），我重新设计了数据转储过程，以使用RowCallbackHandler写入XLSX，在此期间，当我达到750000行的“我的限制”时，我创建了新工作表。 并创建具有50行可见性窗口的工作簿。 这样，我就可以转储大量文件：XLSX文件的大小约为1230Mb。

一些写表格的代码：

    jdbcTemplate.query(
        new PreparedStatementCreator() {
            @Override
            public PreparedStatement createPreparedStatement(Connection connection) throws SQLException {
                PreparedStatement statement = connection.prepareStatement(finalQuery, ResultSet.TYPE_FORWARD_ONLY, ResultSet.CONCUR_READ_ONLY);
                statement.setFetchSize(100);
                statement.setFetchDirection(ResultSet.FETCH_FORWARD);
                return statement;
            }
        }, new RowCallbackHandler() {
            Sheet sheet = null;
            int i = 750000;
            int tableId = 0;

            @Override
            public void processRow(ResultSet resultSet) throws SQLException {
                if (i == 750000) {
                    tableId++;
                    i = 0;
                    sheet = wb.createSheet(sheetName.concat(String.format("%02d%n", tableId)));


                    Row r = sheet.createRow(0);

                    Cell c = r.createCell(0);
                    c.setCellValue("id");
                    c = r.createCell(1);
                    c.setCellValue("Дата");
                    c = r.createCell(2);
                    c.setCellValue("Комментарий");
                    c = r.createCell(3);
                    c.setCellValue("Сумма операции");
                    c = r.createCell(4);
                    c.setCellValue("Дебет");
                    c = r.createCell(5);
                    c.setCellValue("Страхователь");
                    c = r.createCell(6);
                    c.setCellValue("Серия договора");
                    c = r.createCell(7);
                    c.setCellValue("Номер договора");
                    c = r.createCell(8);
                    c.setCellValue("Основной агент");
                    c = r.createCell(9);
                    c.setCellValue("Кредит");
                    c = r.createCell(10);
                    c.setCellValue("Программа");
                    c = r.createCell(11);
                    c.setCellValue("Дата начала покрытия");
                    c = r.createCell(12);
                    c.setCellValue("Дата планового окончания покрытия");
                    c = r.createCell(13);
                    c.setCellValue("Периодичность уплаты взносов");
                }
                i++;

                PremiumEntity e = PremiumEntity.builder()
                    .Id(resultSet.getString("id"))
                    .OperationDate(resultSet.getDate("operation_date"))
                    .Comments(resultSet.getString("comments"))
                    .SumOperation(resultSet.getBigDecimal("sum_operation").doubleValue())
                    .DebetAccount(resultSet.getString("debet_account"))
                    .Strahovatelname(resultSet.getString("strahovatelname"))
                    .Seria(resultSet.getString("seria"))
                    .NomPolica(resultSet.getLong("nom_polica"))
                    .Agentname(resultSet.getString("agentname"))
                    .CreditAccount(resultSet.getString("credit_account"))
                    .Program(resultSet.getString("program"))
                    .PoliciStartDate(resultSet.getDate("polici_start_date"))
                    .PoliciPlanEndDate(resultSet.getDate("polici_plan_end_date"))
                    .Periodichn(resultSet.getString("id_periodichn"))
                    .build();

                Row r = sheet.createRow(i);
                Cell c = r.createCell(0);
                c.setCellValue(e.getId());

                if (e.getOperationDate() != null) {
                    c = r.createCell(1);
                    c.setCellStyle(dateStyle);
                    c.setCellValue(e.getOperationDate());
                }

                c = r.createCell(2);
                c.setCellValue(e.getComments());

                c = r.createCell(3);
                c.setCellValue(e.getSumOperation());

                c = r.createCell(4);
                c.setCellValue(e.getDebetAccount());

                c = r.createCell(5);
                c.setCellValue(e.getStrahovatelname());

                c = r.createCell(6);
                c.setCellValue(e.getSeria());

                c = r.createCell(7);
                c.setCellValue(e.getNomPolica());

                c = r.createCell(8);
                c.setCellValue(e.getAgentname());

                c = r.createCell(9);
                c.setCellValue(e.getCreditAccount());

                c = r.createCell(10);
                c.setCellValue(e.getProgram());

                if (e.getPoliciStartDate() != null) {
                    c = r.createCell(11);
                    c.setCellStyle(dateStyle);
                    c.setCellValue(e.getPoliciStartDate());
                }
                ;

                if (e.getPoliciPlanEndDate() != null) {
                    c = r.createCell(12);
                    c.setCellStyle(dateStyle);
                    c.setCellValue(e.getPoliciPlanEndDate());
                }

                c = r.createCell(13);
                c.setCellValue(e.getPeriodichn());
            }
        });

在重新整理将数据转储到XLSX的代码后，我遇到了问题，它需要64位的Office来打开它们。 因此，我需要将我的工作簿中包含大量工作表的内容拆分为具有单个工作表的单独的XLSX文件，以使其在普通计算机上可读。 再一次，我使用小的可见性窗口和流式处理，使整个应用程序正常运行，而不会看到OutOfMemory。

一些读取和拆分工作表的代码：

        OPCPackage opcPackage = OPCPackage.open(originalFile, PackageAccess.READ);


        ReadOnlySharedStringsTable strings = new ReadOnlySharedStringsTable(opcPackage);
        XSSFReader xssfReader = new XSSFReader(opcPackage);
        StylesTable styles = xssfReader.getStylesTable();
        XSSFReader.SheetIterator iter = (XSSFReader.SheetIterator) xssfReader.getSheetsData();
        int index = 0;
        while (iter.hasNext()) {
            InputStream stream = iter.next();
            String sheetName = iter.getSheetName();

            DataFormatter formatter = new DataFormatter();
            InputSource sheetSource = new InputSource(stream);

            SheetToWorkbookSaver saver = new SheetToWorkbookSaver(sheetName);
            try {
                XMLReader sheetParser = SAXHelper.newXMLReader();
                ContentHandler handler = new XSSFSheetXMLHandler(
                    styles, null, strings, saver, formatter, false);
                sheetParser.setContentHandler(handler);
                sheetParser.parse(sheetSource);
            } catch(ParserConfigurationException e) {
                throw new RuntimeException("SAX parser appears to be broken - " + e.getMessage());
            }

            stream.close();

            // this creates new File descriptors inside storage
            FileDto partFile = new FileDto("report_".concat(StringUtils.trimToEmpty(sheetName)).concat(".xlsx"));
            File cloneFile = fileStorage.read(partFile);
            FileOutputStream cloneFos = new FileOutputStream(cloneFile);
            saver.getWb().write(cloneFos);
            cloneFos.close();
        }

和

public class SheetToWorkbookSaver implements XSSFSheetXMLHandler.SheetContentsHandler {

    private SXSSFWorkbook wb;
    private Sheet sheet;
    private CellStyle dateStyle ;


    private Row currentRow;

    public SheetToWorkbookSaver(String workbookName) {
        this.wb = new SXSSFWorkbook(50);
        this.dateStyle = this.wb.createCellStyle();
        this.dateStyle.setDataFormat(this.wb.getCreationHelper().createDataFormat().getFormat("dd.mm.yyyy"));

        this.sheet = this.wb.createSheet(workbookName);

    }

    @Override
    public void startRow(int rowNum) {
        this.currentRow = this.sheet.createRow(rowNum);
    }

    @Override
    public void endRow(int rowNum) {

    }

    @Override
    public void cell(String cellReference, String formattedValue, XSSFComment comment) {
        int thisCol = (new CellReference(cellReference)).getCol();
        Cell c = this.currentRow.createCell(thisCol);
        c.setCellValue(formattedValue);
        c.setCellComment(comment);
    }

    @Override
    public void headerFooter(String text, boolean isHeader, String tagName) {

    }


    public SXSSFWorkbook getWb() {
        return wb;
    }
}

因此，它读取和写入数据。 我想在您的情况下，您应该将代码重新整理为相同的模式：仅在内存中保留少量数据。 因此，我建议阅读创建自定义SheetContentsReader ，该方法会将数据推送到某个数据库，在该数据库中可以轻松对其进行处理，聚合等。