CPU主要包括兩個部分，即控制器、運(yùn)算器，其中還包括高速緩沖存儲器及實(shí)現(xiàn)它們之間聯(lián)系的數(shù)據(jù)、控制的總線。電子計算機(jī)三大核心部件就是CPU、內(nèi)部存儲器、輸入/輸出設(shè)備。CPU的功效主要為處理指令、執(zhí)行操作、控制時間、處理數(shù)據(jù)。

注：指令集的軟硬件層次之分：硬件指令集是硬件層次上由CPU自身提供的可執(zhí)行的指令集合。軟件指令集是指語言程序庫所提供的指令，只要安裝了該語言的程序庫，指令就可以執(zhí)行。

因為CPU有大量的緩存和復(fù)雜的邏輯控制單元，因此它非常擅長邏輯控制、串行的運(yùn)算。相比較而言，GPU因為有大量的算術(shù)運(yùn)算單元，因此可以同時執(zhí)行大量的計算工作，它所擅長的是大規(guī)模的并發(fā)計算， 計算量大但是沒有什么技術(shù)含量，而且要重復(fù)很多次。這樣一說，我們利用GPU來提高程序運(yùn)算速度的方法就顯而易見了。使用CPU來做復(fù)雜的邏輯控制，用GPU來做簡單但是量大的算術(shù)運(yùn)算，就能夠大大地提高程序的運(yùn)行速度。

CPU有強(qiáng)大的算術(shù)運(yùn)算單 元，可以在很少的時鐘周期內(nèi)完成算術(shù)計算。同時，有很大的緩存可以保存很多數(shù)據(jù)在里面。此外，還有復(fù)雜的邏輯控制單元，當(dāng)程序有多個分支的時候， 通過提供分支預(yù)測的能力來降低延了時。GPU是基于大的吞吐量設(shè)計，有很多的算術(shù)運(yùn)算單元和很少的緩存。同時GPU支持大量的線程同時運(yùn)行，如果他們需要訪問同一個數(shù)據(jù)，緩存會合并這些訪問，自然會帶來延了時的問題。盡管有延了時，但是因為其算術(shù)運(yùn)算單元的數(shù)量龐大，因此能夠達(dá)到一個非常大的吞吐量的效果。

用戶態(tài)的CPU，只允許執(zhí)行指令集中的部分指令。一般而言，IO相關(guān)和把內(nèi)存保護(hù)相關(guān)的所有執(zhí)行在用戶態(tài)下都是被禁止的，此外其它一些特權(quán)指令也是被禁止的，比如用戶態(tài)下不能將PSW的模式設(shè)置控制位設(shè)置成內(nèi)核態(tài)。

控制器之所以知道數(shù)據(jù)放哪里、做什么運(yùn)算(比如是做加法還是邏輯運(yùn)算?)都是由指令告訴控制器的，每個指令對應(yīng)一個基本操作，比如加法運(yùn)算對應(yīng)一個指令。例如，將兩個MDR寄存器(保存了來自內(nèi)存的兩個數(shù)據(jù))中的值拷貝到ALU中，然后根據(jù)的操作指令執(zhí)行加法運(yùn)算，將運(yùn)算結(jié)果拷貝會一個MDR寄存器中，后寫入到內(nèi)存。