處理器緩存的傳輸速率確實很高，然而還不足以取代內(nèi)存的地位，這主要是由于緩存只是內(nèi)存中少部分數(shù)據(jù)的復制品，所以CPU到緩存中尋找數(shù)據(jù)時，也會出現(xiàn)找不到的情況（因為這些數(shù)據(jù)沒有從內(nèi)存復制到緩存中去），這時CPU還是會到內(nèi)存中去找數(shù)據(jù)。與此同時系統(tǒng)的速度就慢了下來，不過CPU會把這些數(shù)據(jù)復制到緩存中去，以便下一次不用再到內(nèi)存中去取。就目前緩存容量、成本以及功耗表現(xiàn)來看，還遠遠無法與內(nèi)存抗衡，另外從某種意義上來說，內(nèi)存也是處理器緩存的一種表現(xiàn)形式，只不過在速率上慢很多，然而卻在容量、功耗以及成本方面擁有巨大優(yōu)勢。如果內(nèi)存在將來可以做到足夠強的話，反而很有取代處理器緩存的可能。
　　錯誤觀點二：處理器緩存是一個整體

【圖】生產(chǎn)技術(shù)對緩存容量大小的影響

【圖】PCB上帶緩存的PentiumIII處理器
　　事實上最早先的CPU緩存確實是個整體，而且容量也很低。英特爾公司從Pentium時代開始后就把緩存進行了分類，當時集成在CPU內(nèi)核中的緩存已不足以滿足CPU的需求，而制造工藝上的限制又不能大幅度提高緩存的容量。因此出現(xiàn)了集成在與CPU同一塊電路板上或主板上的緩存，此時就把CPU內(nèi)核集成的緩存稱為一級緩存，而外部的稱為二級緩存；后來隨著生產(chǎn)技術(shù)的不斷提高，最終二級緩存也被挪進了處理器當中。通常一級緩存中還分數(shù)據(jù)緩存（Data Cache，D-Cache）和指令緩存（Instruction Cache，I-Cache）。二者分別用來存放數(shù)據(jù)和執(zhí)行這些數(shù)據(jù)的指令，而且兩者可以同時被CPU訪問，減少了爭用Cache所造成的沖突，提高了處理器效能。英特爾公司在推出Pentium 4處理器時，還新增了一種一級追蹤緩存，容量為12KB。
　　錯誤觀點三：L1級緩存和L2級緩存只有容量上的差別
　　用于存儲數(shù)據(jù)的緩存部分通常被稱為RAM，掉電以后其中的信息就會消失。RAM又分兩種，其中一種是靜態(tài)RAM（SRAM）；另外一種是動態(tài)RAM（DRAM）。前者的存儲速度要比后者快得多，我們現(xiàn)在使用的內(nèi)存一般都是動態(tài)RAM。處理器的L1級緩存通常都是靜態(tài)RAM，速度非常的快，但是靜態(tài)RAM集成度低（存儲相同的數(shù)據(jù)，靜態(tài)RAM的體積是動態(tài)RAM的6倍），而且價格也相對較為昂貴（同容量的靜態(tài)RAM是動態(tài)RAM的四倍）。擴大靜態(tài)RAM作為緩存是一個不太合算的做法，但是為了提高系統(tǒng)的性能和速度又必須要擴大緩存，這就有了一個折中的方法：在不擴大原來的靜態(tài)RAM緩存容量的情況下，僅僅增加一些高速動態(tài)RAM做為L2級緩存。高速動態(tài)RAM速度要比常規(guī)動態(tài)RAM快，但比原來的靜態(tài)RAM緩存慢，而且成本也較為適中。一級緩存和二級緩存中的內(nèi)容都是內(nèi)存中訪問頻率高的數(shù)據(jù)的復制品（映射），它們的存在都是為了減少高速CPU對慢速內(nèi)存的訪問。



　　二級緩存是CPU性能表現(xiàn)的關(guān)鍵之一，在CPU核心不變化的情況下，增加二級緩存容量能使性能大幅度提高。而同一核心的CPU高低端之分往往也是在二級緩存上存在差異，由此可見二級緩存對CPU的重要性。CPU在緩存中找到有用的數(shù)據(jù)被稱為命中，當緩存中沒有CPU所需的數(shù)據(jù)時（這時稱為未命中），CPU才訪問內(nèi)存。從理論上講，在一顆擁有二級緩存的CPU中，讀取一級緩存的命中率為80%。也就是說CPU一級緩存中找到的有用數(shù)據(jù)占數(shù)據(jù)總量的80%，剩下的20%從二級緩存中讀取。由于不能準確預測將要執(zhí)行的數(shù)據(jù)，讀取二級緩存的命中率也在80%左右（從二級緩存讀到有用的數(shù)據(jù)占總數(shù)據(jù)的16%）。那么還有的數(shù)據(jù)就不得不從內(nèi)存調(diào)用，但這已經(jīng)是一個相當小的比例了。目前的較高端CPU中，還會帶有三級緩存，它是為讀取二級緩存后未命中的數(shù)據(jù)設計的—種緩存，在擁有三級緩存的CPU中，只有約5%的數(shù)據(jù)需要從內(nèi)存中調(diào)用，這進一步提高了CPU的效率，從某種意義上說，預取效率的提高，大大降低了生產(chǎn)成本卻提供了非常接近理想狀態(tài)的性能。除非某天生產(chǎn)技術(shù)變得非常強，否則內(nèi)存仍會存在，緩存的性能遞增特性也仍會保留。
　　錯誤觀點四：緩存只是隨意調(diào)取數(shù)據(jù)并無選擇
　　即便處理器內(nèi)部集成的緩存數(shù)據(jù)交換能力非常強，也仍需要對調(diào)取數(shù)據(jù)做一定的篩選。這是因為隨著時間的變化，被訪問得最頻繁的數(shù)據(jù)不是一成不變的，也就是說，剛才還不頻繁的數(shù)據(jù)，此時已經(jīng)需要被頻繁的訪問，剛才還是最頻繁的數(shù)據(jù)，現(xiàn)在又不頻繁了，所以說緩存中的數(shù)據(jù)要經(jīng)常按照一定的算法來更換，這樣才能保證緩存中的數(shù)據(jù)經(jīng)常是被訪問最頻繁的。命中率算法中較常用的“最近最少使用算法”（LRU算法），它是將最近一段時間內(nèi)最少被訪問過的行淘汰出局。因此需要為每行設置一個計數(shù)器，LRU算法是把命中行的計數(shù)器清零，其他各行計數(shù)器加1。當需要替換時淘汰行計數(shù)器計數(shù)值最大的數(shù)據(jù)行出局。這是一種高效、科學的算法，其計數(shù)器清零過程可以把一些頻繁調(diào)用后再不需要的數(shù)據(jù)淘汰出緩存，提高緩存的利用率。

【圖】擁有144MB緩存的八路IBM POWER5處理器
　　總結(jié)：
　　高速緩存做為處理器不可分割的一部分，已經(jīng)融入到性能提升的考慮因素當中，伴隨生產(chǎn)技術(shù)的進一步發(fā)展，緩存的級數(shù)還將增加，容量也會進一步提高。作為處理器性能助推器的高速緩存，仍會在成本和功耗控制發(fā)揮巨大的優(yōu)勢，而性能方面也會有長足的發(fā)展。可以毫不夸張的說：緩存技術(shù)帶領處理器走進了多彩的天堂。