在計算機(jī)體系結(jié)構(gòu)中，CPU 是對計算機(jī)的所有硬件資源（如存儲器、輸入輸出單元） 進(jìn)行控制調(diào)配、執(zhí)行通用運算的核心硬件單元。CPU 是計算機(jī)的運算和控制核心。計算機(jī)系統(tǒng)中所有軟件層的操作，終都將通過指令集映射為CPU的操作。

由于CPU訪問內(nèi)存以得到指令或數(shù)據(jù)的時間要比執(zhí)行指令花費的時間長很多，因此在CPU內(nèi)部提供了一些用來保存關(guān)鍵變量、臨時數(shù)據(jù)等信息的通用寄存器。所以，CPU需要提供 一些特定的指令，使得可以從內(nèi)存中讀取數(shù)據(jù)存入寄存器以及可以將寄存器數(shù)據(jù)存入內(nèi)存。

CPU有強(qiáng)大的算術(shù)運算單 元，可以在很少的時鐘周期內(nèi)完成算術(shù)計算。同時，有很大的緩存可以保存很多數(shù)據(jù)在里面。此外，還有復(fù)雜的邏輯控制單元，當(dāng)程序有多個分支的時候， 通過提供分支預(yù)測的能力來降低延了時。GPU是基于大的吞吐量設(shè)計，有很多的算術(shù)運算單元和很少的緩存。同時GPU支持大量的線程同時運行，如果他們需要訪問同一個數(shù)據(jù)，緩存會合并這些訪問，自然會帶來延了時的問題。盡管有延了時，但是因為其算術(shù)運算單元的數(shù)量龐大，因此能夠達(dá)到一個非常大的吞吐量的效果。

CPU控制技術(shù)的主要形式，插入控制。CPU 對于操作控制信號的產(chǎn)生，主要是通過指令的功能來實現(xiàn)的，通過將指令發(fā)給相應(yīng)部件，達(dá)到控制這些部件的目的。實現(xiàn)一條指令功能，主要是通過計算機(jī)中的部件執(zhí)行一序列的操作來完成。較多的小控制元件是構(gòu)建集中處理模式的關(guān)鍵，目的是為了更好的完成CPU數(shù)據(jù)處理操作。

除了嵌入式系統(tǒng)，多數(shù)CPU都有兩種工作模式：內(nèi)核態(tài)和用戶態(tài)。這兩種工作模式是由PSW寄存器上的一個二進(jìn)制位來控制的。內(nèi)核態(tài)的CPU，可以執(zhí)行指令集中的所有指令，并使用硬件的所有功能。

關(guān)于CPU上的高速緩存

1、高速的緩存是CPU的寄存器，它們和CPU的材料相同，靠近CPU或接近CPU，訪問它們沒有時延(<1ns)。但容量很小，小于1kb。

2、寄存器之下，是CPU的高速緩存。分為L1緩存、L2緩存、L3緩存，每層速度按數(shù)量級遞減、容量也越來越大。

3、每核心都有一個自己的L1緩存。L1緩存分兩種：L1指令緩存(L1-icache)和L1數(shù)據(jù)緩存(L1-dcache)。L1指令緩存用來存放已解了碼指令，L1數(shù)據(jù)緩存用來放訪問非常頻繁的數(shù)據(jù)。

4、L2緩存用來存放近期使用過的內(nèi)存數(shù)據(jù)。更嚴(yán)格地說，存放的是很可能將來會被CPU使用的數(shù)據(jù)。

5、多數(shù)多核CPU的各核都各自擁有一個L2緩存，但也有多核共享L2緩存的設(shè)計。無論如何，L1是各核私有的(但對某核內(nèi)的多線程是共享的)。