Java POI读取大型Excel文件速度慢如何优化?

Java POI处理大型Excel文件效率优化策略

使用Java POI处理大型Excel文件时,常常面临读取速度缓慢的问题,甚至可能导致内存溢出错误。这是因为POI默认将整个文件加载到内存中。本文将介绍两种主流优化方法,有效提升大型Excel文件读取效率。

核心问题:内存占用过高

POI默认加载整个Excel文件到内存,大型文件会导致内存占用过高,严重影响读取速度,甚至引发OutOfMemoryError。因此,需要采用分段读取策略,避免一次性加载整个文件。

优化方案:

方案一:使用xlsx-streamer库实现分段读取

xlsx-streamer基于POI,通过分段缓存机制,将数据分批加载到内存,显著降低内存占用。它在创建Workbook对象时使用StreamingReader创建缓冲区,批量读取文件内容。

首先,引入xlsx-streamer和poi-ooxml依赖:


    org.apache.poi
    poi-ooxml
    ${poi.version}


    com.monitorjbl
    xlsx-streamer
    2.1.0

以下代码演示如何使用xlsx-streamer读取大型Excel文件:

public static void readLargeExcel(File file) throws Exception {
    InputStream inputStream = new FileInputStream(file);
    long start = System.currentTimeMillis();
    try (Workbook workbook = StreamingReader.builder()
            .rowCacheSize(10000) // 缓存行数
            .bufferSize(4096)    // 缓冲区大小
            .open(inputStream)) {

        Sheet sheet = workbook.getSheetAt(0);
        log.info("Excel读取完成,耗时:{}毫秒", System.currentTimeMillis() - start);
        for (Row row : sheet) {
            System.out.println("读取第" + row.getRowNum() + "行数据:");
            for (Cell cell : row) {
                System.out.print(cell.getStringCellValue() + " ");
            }
            System.out.println();
        }
        System.out.println("读取结束行数:" + shee

t.getLastRowNum()); } }

在处理数十万行数据时,此方法能显著缩短读取时间。

方案二:使用EasyExcel库

EasyExcel是阿里巴巴开源的高效Excel处理工具,基于POI进行了优化,有效避免大文件读取内存溢出。它提供简洁的API,方便进行读写操作。

添加EasyExcel依赖:


    com.alibaba
    easyexcel
    3.1.0

以下代码演示如何使用EasyExcel读取Excel文件,提供两种读取方式:对象封装和Map读取:

public static void readExcelByEasyExcel(File file) {
    long start = System.currentTimeMillis();
    List excelDataList = EasyExcel.read(file).head(ExcelData.class).sheet(0).doReadSync();
    excelDataList.forEach(System.out::println);
    log.info("Excel读取完成,耗时:{}毫秒", System.currentTimeMillis() - start);
}

public static void readExcelByEasyExcel1(File file) {
    long start = System.currentTimeMillis();
    List> listMap = EasyExcel.read(file).sheet(0).doReadSync();
    listMap.forEach(x -> System.out.println(JSON.toJSONString(x)));
    log.info("Excel读取完成,耗时:{}毫秒", System.currentTimeMillis() - start);
}

选择哪种方案取决于具体需求和项目环境。xlsx-streamer侧重于POI增强,EasyExcel提供更全面的功能和更友好的API。 根据实际情况选择最合适的方案。