Java代碼優(yōu)化實(shí)現(xiàn)Zip壓縮大文件從30秒到近乎1秒的優(yōu)化過程

更新時(shí)間：2025年09月23日 08:30:06 作者：Joker_Ye

本文詳細(xì)介紹了一種使用Java進(jìn)行文件壓縮的優(yōu)化過程,從最初的無緩沖壓縮到使用緩沖區(qū),再到利用NIO的Channel和內(nèi)存映射文件技術(shù),最終實(shí)現(xiàn)壓縮速度的顯著提升,感興趣的可以了解一下

在公司有一個(gè)需求需要將前端傳過來的10張照片，后端接收過來進(jìn)行處理以后壓縮成一個(gè)壓縮包通過網(wǎng)絡(luò)流傳輸出去。之前沒有接觸過用Java壓縮文件的，所以就直接上網(wǎng)找了一個(gè)例子改了一下用了，改完以后也能使用，但是隨著前端所傳圖片的大小越來越大的時(shí)候，耗費(fèi)的時(shí)間也在急劇增加，

最后測(cè)了一下壓縮20M的文件竟然需要30秒的時(shí)間。未優(yōu)化壓縮文件的代碼如下：

private static String ZIP_FILE="D:/pic/zip/test.zip";
 
private static String JPG_FILE_PATH="D:/pic/zip/";
	
private static String JPG_FILE_NAME="img";
	
	public static void zipFileNoBuffer() {
	    File zipFile = new File(ZIP_FILE);
	    try (ZipOutputStream zipOut = new ZipOutputStream(new FileOutputStream(zipFile))) {
	        //開始時(shí)間
	        long beginTime = System.currentTimeMillis();
	 
	        for (int i = 1; i <11; i++) {
	            try (InputStream input = new FileInputStream(JPG_FILE_PATH + i + ".jpg")) {
	                zipOut.putNextEntry(new ZipEntry(JPG_FILE_NAME + i + ".jpg"));
	                int temp = 0;
	                while ((temp = input.read()) != -1) {
	                    zipOut.write(temp);
	                }
	            }
	        }
	        printInfo(beginTime);
	    } catch (Exception e) {
	        e.printStackTrace();
	    }
	}
	
	public static void printInfo(long beginTime) {
		long endTime= System.currentTimeMillis();
		long total=endTime-beginTime;
		System.out.println("耗時(shí)："+total);
	}
	
	public static void main(String[] args) {
		zipFileNoBuffer();
	}

這里找了一張2M大小的圖片，并且循環(huán)十次進(jìn)行測(cè)試。打印的結(jié)果如下，時(shí)間大概是30秒。

consum time:29599

第一次優(yōu)化過程-從30秒到2秒

進(jìn)行優(yōu)化首先想到的是利用緩沖區(qū)BufferInputStream。在FileInputStream中read()方法每次只讀取一個(gè)字節(jié)。源碼中也有說明。

/**
 * Reads a byte of data from this input stream. This method blocks
 * if no input is yet available.
 *
 * @return     the next byte of data, or <code>-1</code> if the end of the
 *             file is reached.
 * @exception  IOException  if an I/O error occurs.
 */
public native int read() throws IOException;

這是一個(gè)調(diào)用本地方法與原生操作系統(tǒng)進(jìn)行交互，從磁盤中讀取數(shù)據(jù)。每讀取一個(gè)字節(jié)的數(shù)據(jù)就調(diào)用一次本地方法與操作系統(tǒng)交互，是非常耗時(shí)的。例如我們現(xiàn)在有30000個(gè)字節(jié)的數(shù)據(jù)，如果使用FileInputStream 那么就需要調(diào)用30000次的本地方法來獲取這些數(shù)據(jù)，而如果使用緩沖區(qū)的話（這里假設(shè)初始的緩沖區(qū)大小足夠放下30000字節(jié)的數(shù)據(jù)）那么只需要調(diào)用一次就行。因?yàn)榫彌_區(qū)在第一次調(diào)用read()方法的時(shí)候會(huì)直接從磁盤中將數(shù)據(jù)直接讀取到內(nèi)存中。隨后再一個(gè)字節(jié)一個(gè)字節(jié)的慢慢返回。

因?yàn)锽ufferedInputStream內(nèi)部封裝了一個(gè)byte數(shù)組用于存放數(shù)據(jù)，默認(rèn)大小是8192

第一次優(yōu)化過后的代碼如下

private static String ZIP_FILE="D:/pic/zip/test.zip";
 
	private static String JPG_FILE_PATH="D:/pic/zip/";
	
	private static String JPG_FILE_NAME="img";
 
	public static void zipFileBuffer() {
	    File zipFile = new File(ZIP_FILE);
	    try (ZipOutputStream zipOut = new ZipOutputStream(new FileOutputStream(zipFile));
	            BufferedOutputStream bufferedOutputStream = new BufferedOutputStream(zipOut)) {
	        //開始時(shí)間
	        long beginTime = System.currentTimeMillis();
	        for (int i = 1; i <11; i++) {
	            try (BufferedInputStream bufferedInputStream = new BufferedInputStream(new FileInputStream(JPG_FILE_PATH + i + ".jpg"))) {
	                zipOut.putNextEntry(new ZipEntry(JPG_FILE_NAME + i + ".jpg"));
	                int temp = 0;
	                while ((temp = bufferedInputStream.read()) != -1) {
	                    bufferedOutputStream.write(temp);
	                }
	            }
	        }
	        printInfo(beginTime);
	    } catch (Exception e) {
	        e.printStackTrace();
	    }
	}
 
	
	public static void printInfo(long beginTime) {
		long endTime= System.currentTimeMillis();
		long total=endTime-beginTime;
		System.out.println("耗時(shí)："+total);
	}
	
	public static void main(String[] args) {
		zipFileBuffer();
	}

輸出

consum time:1808

可以看到相比較于第一次使用FileInputStream效率已經(jīng)提升了許多了

第二次優(yōu)化過程-從2秒到1秒

使用緩沖區(qū)buffer的話已經(jīng)是滿足了我的需求了，但是秉著學(xué)以致用的想法，就想著用NIO中知識(shí)進(jìn)行優(yōu)化一下。

使用Channel

為什么要用Channel呢？因?yàn)樵贜IO中新出了Channel和ByteBuffer。正是因?yàn)樗鼈兊慕Y(jié)構(gòu)更加符合操作系統(tǒng)執(zhí)行I/O的方式，所以其速度相比較于傳統(tǒng)IO而言速度有了顯著的提高。Channel就像一個(gè)包含著煤礦的礦藏，而ByteBuffer則是派送到礦藏的卡車。也就是說我們與數(shù)據(jù)的交互都是與ByteBuffer的交互。

在NIO中能夠產(chǎn)生FileChannel的有三個(gè)類。分別是FileInputStream、FileOutputStream、以及既能讀又能寫的RandomAccessFile。

源碼如下：

private static String ZIP_FILE="D:/pic/zip/test.zip";
 
private static String JPG_FILE_PATH="D:/pic/zip/";
	
private static String JPG_FILE_NAME="img";
 
	public static void zipFileChannel() {
	    //開始時(shí)間
	    long beginTime = System.currentTimeMillis();
	    File zipFile = new File(ZIP_FILE);
	    try (ZipOutputStream zipOut = new ZipOutputStream(new FileOutputStream(zipFile));
	            WritableByteChannel writableByteChannel = Channels.newChannel(zipOut)) {
	    	for (int i = 1; i <11; i++) {
	            try (FileChannel fileChannel = new FileInputStream(JPG_FILE_PATH + i + ".jpg").getChannel()) {
	                zipOut.putNextEntry(new ZipEntry(JPG_FILE_NAME + i + ".jpg"));
	                fileChannel.transferTo(0, fileChannel.size(), writableByteChannel);
	                System.out.println("size:"+fileChannel.size());
	            }
	        }
	        printInfo(beginTime);
	    } catch (Exception e) {
	        e.printStackTrace();
	    }
	}
 
    public static void printInfo(long beginTime) {
		long endTime= System.currentTimeMillis();
		long total=endTime-beginTime;
		System.out.println("耗時(shí)："+total);
	}
	
	public static void main(String[] args) {
		zipFileChannel();
	}

我們可以看到這里并沒有使用ByteBuffer進(jìn)行數(shù)據(jù)傳輸，而是使用了transferTo的方法。這個(gè)方法是將兩個(gè)通道進(jìn)行直連。

This method is potentially much more efficient than a simple loop
* that reads from this channel and writes to the target channel. Many
* operating systems can transfer bytes directly from the filesystem cache
* to the target channel without actually copying them.

這是源碼上的描述文字，大概意思就是使用transferTo的效率比循環(huán)一個(gè)Channel讀取出來然后再循環(huán)寫入另一個(gè)Channel好。操作系統(tǒng)能夠直接傳輸字節(jié)從文件系統(tǒng)緩存到目標(biāo)的Channel中，而不需要實(shí)際的copy階段。

> copy階段就是從內(nèi)核空間轉(zhuǎn)到用戶空間的一個(gè)過程

可以看到速度相比較使用緩沖區(qū)已經(jīng)有了一些的提高。

fileSize:20M

consum time:1416

那么為什么從內(nèi)核空間轉(zhuǎn)向用戶空間這段過程會(huì)慢呢？首先我們需了解的是什么是內(nèi)核空間和用戶空間。在常用的操作系統(tǒng)中為了保護(hù)系統(tǒng)中的核心資源，于是將系統(tǒng)設(shè)計(jì)為四個(gè)區(qū)域，越往里權(quán)限越大，所以Ring0被稱之為內(nèi)核空間，用來訪問一些關(guān)鍵性的資源。Ring3被稱之為用戶空間。

> 用戶態(tài)、內(nèi)核態(tài)：線程處于內(nèi)核空間稱之為內(nèi)核態(tài)，線程處于用戶空間屬于用戶態(tài)

那么我們?nèi)绻藭r(shí)應(yīng)用程序（應(yīng)用程序是都屬于用戶態(tài)的）需要訪問核心資源怎么辦呢？那就需要調(diào)用內(nèi)核中所暴露出的接口用以調(diào)用，稱之為系統(tǒng)調(diào)用。例如此時(shí)我們應(yīng)用程序需要訪問磁盤上的文件。此時(shí)應(yīng)用程序就會(huì)調(diào)用系統(tǒng)調(diào)用的接口open方法，然后內(nèi)核去訪問磁盤中的文件，將文件內(nèi)容返回給應(yīng)用程序。大致的流程如下

直接緩沖區(qū)和非直接緩沖區(qū)

既然我們要讀取一個(gè)磁盤的文件，要廢這么大的周折。有沒有什么簡(jiǎn)單的方法能夠使我們的應(yīng)用直接操作磁盤文件，不需要內(nèi)核進(jìn)行中轉(zhuǎn)呢？有，那就是建立直接緩沖區(qū)了。

非直接緩沖區(qū)：非直接緩沖區(qū)就是我們上面所講內(nèi)核態(tài)作為中間人，每次都需要內(nèi)核在中間作為中轉(zhuǎn)。

直接緩沖區(qū)：直接緩沖區(qū)不需要內(nèi)核空間作為中轉(zhuǎn)copy數(shù)據(jù)，而是直接在物理內(nèi)存申請(qǐng)一塊空間，這塊空間映射到內(nèi)核地址空間和用戶地址空間，應(yīng)用程序與磁盤之間數(shù)據(jù)的存取通過這塊直接申請(qǐng)的物理內(nèi)存進(jìn)行交互。

既然直接緩沖區(qū)那么快，我們?yōu)槭裁床欢加弥苯泳彌_區(qū)呢？其實(shí)直接緩沖區(qū)有以下的缺點(diǎn)。直接緩沖區(qū)的缺點(diǎn)：

不安全
消耗更多，因?yàn)樗皇窃贘VM中直接開辟空間。這部分內(nèi)存的回收只能依賴于垃圾回收機(jī)制，垃圾什么時(shí)候回收不受我們控制。
數(shù)據(jù)寫入物理內(nèi)存緩沖區(qū)中，程序就喪失了對(duì)這些數(shù)據(jù)的管理，即什么時(shí)候這些數(shù)據(jù)被最終寫入從磁盤只能由操作系統(tǒng)來決定，應(yīng)用程序無法再干涉。

> 綜上所述，所以我們使用transferTo方法就是直接開辟了一段直接緩沖區(qū)。所以性能相比而言提高了許多

使用內(nèi)存映射文件

NIO中新出的另一個(gè)特性就是內(nèi)存映射文件，內(nèi)存映射文件為什么速度快呢？其實(shí)原因和上面所講的一樣，也是在內(nèi)存中開辟了一段直接緩沖區(qū)。與數(shù)據(jù)直接作交互。源碼如下

    private static String ZIP_FILE="D:/pic/zip/test.zip";
 
	private static String JPG_FILE_PATH="D:/pic/zip/";
	
	private static String JPG_FILE_NAME="img";
 
	public static void zipFileMap() {
	    //開始時(shí)間
	    long beginTime = System.currentTimeMillis();
	    File zipFile = new File(ZIP_FILE);
	    try (ZipOutputStream zipOut = new ZipOutputStream(new FileOutputStream(zipFile));
	            WritableByteChannel writableByteChannel = Channels.newChannel(zipOut)) {
	    	for (int i = 1; i <11; i++) { 
	            zipOut.putNextEntry(new ZipEntry(JPG_FILE_NAME + i + ".jpg")); 
	            //內(nèi)存中的映射文件
	            RandomAccessFile raFile=new RandomAccessFile(JPG_FILE_PATH + i + ".jpg", "r");
	            MappedByteBuffer mappedByteBuffer = raFile.getChannel()
	                    .map(FileChannel.MapMode.READ_ONLY, 0, raFile.length()); 
	            //System.out.println(raFile.length());
	            writableByteChannel.write(mappedByteBuffer);
	        }
	        printInfo(beginTime);
	    } catch (Exception e) {
	        e.printStackTrace();
	    }
	}
 
    public static void printInfo(long beginTime) {
		long endTime= System.currentTimeMillis();
		long total=endTime-beginTime;
		System.out.println("耗時(shí)："+total);
	}
	
	public static void main(String[] args) {
		zipFileMap();
	}

打印如下

consum time:1305

可以看到速度和使用Channel的速度差不多的。

使用Pipe

Java NIO 管道是2個(gè)線程之間的單向數(shù)據(jù)連接。Pipe有一個(gè)source通道和一個(gè)sink通道。其中source通道用于讀取數(shù)據(jù)，sink通道用于寫入數(shù)據(jù)?？梢钥吹皆创a中的介紹，大概意思就是寫入線程會(huì)阻塞至有讀線程從通道中讀取數(shù)據(jù)。如果沒有數(shù)據(jù)可讀，讀線程也會(huì)阻塞至寫線程寫入數(shù)據(jù)。直至通道關(guān)閉。

但是，因爲(wèi)程序還是必須安全，在速度可以忍受的情況下，我選用zipFileBuffer，也就是第一次優(yōu)化的方法。

到此這篇關(guān)于Java代碼優(yōu)化實(shí)現(xiàn)Zip壓縮大文件從30秒到近乎1秒的優(yōu)化過程的文章就介紹到這了,更多相關(guān)Java Zip壓縮大文件內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

您可能感興趣的文章: