Java通過導(dǎo)出超大Excel文件解決內(nèi)存溢出問題
前言
將業(yè)務(wù)數(shù)據(jù)導(dǎo)出到Excel表中,導(dǎo)出任務(wù)數(shù)據(jù)量較大時,導(dǎo)出的項目就會內(nèi)存溢出,本文通過Java操作Poi的SXSSFWorkbook類進行導(dǎo)出,解決內(nèi)存溢出問題。
1.采用Poi中的SXSSFWorkbook
在實現(xiàn)excel導(dǎo)出時,在數(shù)據(jù)量過大的情況下,總是容易發(fā)生內(nèi)存溢出的情況??梢允褂肞OI提供的 SXSSFWorkbook 類來避免內(nèi)存溢出。

2.maven中引入Poi
<!-- poi start --> <dependency> <groupId>org.apache.poi</groupId> <artifactId>poi</artifactId> <version>4.1.2</version> </dependency> <dependency> <groupId>org.apache.poi</groupId> <artifactId>poi-ooxml</artifactId> <version>4.1.2</version> </dependency> <dependency> <groupId>org.apache.poi</groupId> <artifactId>poi-ooxml-schemas</artifactId> <version>4.1.2</version> </dependency> <!-- poi end -->
3.測試過程
先使用普通的寫法測試(XSSFWorkbook),編寫writeNormalExcelTest測試方法,寫入的行數(shù)太多時,會報內(nèi)存溢出(在設(shè)置-server -Xmx64m -Xms64m -Xmn32m的情況下)。
接著編寫SXSSFWorkbook操作excel的測試,測試方法writeHugeExcelTest(同樣在設(shè)置-server -Xmx64m -Xms64m -Xmn32m的情況下),結(jié)果證明無內(nèi)存溢出,能完好的導(dǎo)出1000000行測試數(shù)據(jù),整個Java類代碼如下:
4.單元測試Java代碼
package cn.gzsendi.exceltest;
import java.io.FileOutputStream;
import java.io.IOException;
import org.apache.poi.ss.usermodel.Cell;
import org.apache.poi.ss.usermodel.Row;
import org.apache.poi.ss.usermodel.Sheet;
import org.apache.poi.ss.usermodel.Workbook;
import org.apache.poi.xssf.streaming.SXSSFWorkbook;
import org.apache.poi.xssf.usermodel.XSSFWorkbook;
import org.junit.Test;
public class HugeExcelExportTest {
private int totalRowNumber = 1000000; //寫入的excel數(shù)據(jù)行數(shù)
private int totalCellNumber = 40; //excel每行共40列
//普通的寫入excel的方法,會消耗內(nèi)存,寫入的行數(shù)太大時,會報內(nèi)存溢出
@Test
public void writeNormalExcelTest(){
Workbook wb = null;
FileOutputStream out = null;
try {
long startTime = System.currentTimeMillis();
wb = new XSSFWorkbook();
Sheet sheet = wb.createSheet("Sheet 1");
//定義Row和Cell變量, Rows從0開始.
Row row;
Cell cell;
for (int rowNumber = 0; rowNumber < totalRowNumber; rowNumber++) {
row = sheet.createRow(rowNumber);
for (int cellNumber = 0; cellNumber < totalCellNumber; cellNumber++) {
cell = row.createCell(cellNumber);
cell.setCellValue(Math.random()); //寫入一個隨機數(shù)
}
//打印測試,
if(rowNumber % 10000 ==0) {
System.out.println(rowNumber);
}
}
//Write excel to a file
out = new FileOutputStream("d:\\temp\\normalExcel_" + totalRowNumber + ".xlsx");
wb.write(out);
long endTime = System.currentTimeMillis();
System.out.println("process " + totalRowNumber + " spent time:" + (endTime - startTime) + " ms.");
} catch (Exception e) {
e.printStackTrace();
} finally {
try {
if(out != null) out.close();
} catch (IOException e) {
e.printStackTrace();
}
try {
if(wb != null) wb.close();
} catch (IOException e) {
e.printStackTrace();
}
}
}
//結(jié)合臨時文件壓縮等寫入excel,默認超過100行就寫到臨時文件,不會報內(nèi)存溢出
@Test
public void writeHugeExcelTest(){
SXSSFWorkbook wb = null;
FileOutputStream out = null;
try {
long startTime = System.currentTimeMillis();
wb = new SXSSFWorkbook();//默認100行,超100行將寫入臨時文件
wb.setCompressTempFiles(false); //是否壓縮臨時文件,否則寫入速度更快,但更占磁盤,但程序最后是會將臨時文件刪掉的
Sheet sheet = wb.createSheet("Sheet 1");
//定義Row和Cell變量, Rows從0開始.
Row row;
Cell cell;
for (int rowNumber = 0; rowNumber < totalRowNumber; rowNumber++) {
row = sheet.createRow(rowNumber);
for (int cellNumber = 0; cellNumber < totalCellNumber; cellNumber++) {
cell = row.createCell(cellNumber);
cell.setCellValue(Math.random()); //寫入一個隨機數(shù)
}
//打印測試,
if(rowNumber % 10000 ==0) {
System.out.println(rowNumber);
}
}
//Write excel to a file
out = new FileOutputStream("d:\\temp\\hugeExcel_" + totalRowNumber + ".xlsx");
wb.write(out);
long endTime = System.currentTimeMillis();
System.out.println("process " + totalRowNumber + " spent time:" + (endTime - startTime) + " ms.");
} catch (Exception ex) {
ex.printStackTrace();
} finally {
if (wb != null) {
wb.dispose();// 刪除臨時文件,很重要,否則磁盤可能會被寫滿
}
try {
if(out != null) out.close();
} catch (IOException e) {
e.printStackTrace();
}
try {
if(wb != null) wb.close();
} catch (IOException e) {
e.printStackTrace();
}
}
}
}
5.結(jié)論
導(dǎo)出excel數(shù)據(jù)量大時,采用SXSSFWorkbook進行操作,數(shù)據(jù)達到一定數(shù)據(jù)將寫數(shù)據(jù)到臨時文件,不會一直占用內(nèi)存,因此不會報內(nèi)存溢出
到此這篇關(guān)于Java通過導(dǎo)出超大Excel文件解決內(nèi)存溢出問題的文章就介紹到這了,更多相關(guān)Java導(dǎo)出超大Excel文件內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Spring Cloud Zuul路由規(guī)則動態(tài)更新解析
這篇文章主要介紹了Spring Cloud Zuul路由規(guī)則動態(tài)更新解析,文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2019-11-11
java統(tǒng)計文件中每個字符出現(xiàn)的個數(shù)
這篇文章主要為大家詳細介紹了java統(tǒng)計文件中每個字符出現(xiàn)的個數(shù),具有一定的參考價值,感興趣的小伙伴們可以參考一下2019-03-03
Java HashMap三種循環(huán)遍歷方式及其性能對比實例分析
這篇文章主要介紹了Java HashMap三種循環(huán)遍歷方式及其性能對比,結(jié)合具體實例形式分析了Java HashMap三種循環(huán)遍歷方式的實現(xiàn)方法、運行效率及性能優(yōu)劣,需要的朋友可以參考下2019-10-10
java Swing實現(xiàn)選項卡功能(JTabbedPane)實例代碼
這篇文章主要介紹了java Swing實現(xiàn)選項卡功能(JTabbedPane)實例代碼的相關(guān)資料,學(xué)習(xí)java 基礎(chǔ)的朋友可以參考下這個簡單示例,需要的朋友可以參考下2016-11-11
springboot整合mybatis-plus逆向工程的實現(xiàn)
這篇文章主要介紹了springboot整合mybatis-plus逆向工程的實現(xiàn),文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-08-08

