CPU作為計(jì)算機(jī)系統(tǒng)的運(yùn)算和控制核心，是信息處理、程序運(yùn)行的終執(zhí)行單元。CPU 自產(chǎn)生以來，在邏輯結(jié)構(gòu)、運(yùn)行效率以及功能外延上取得了巨大發(fā)展。CPU是計(jì)算機(jī)的大腦。

程序的運(yùn)行過程，實(shí)際上是程序涉及到的、未涉及到的一大堆的指令的執(zhí)行過程。當(dāng)程序要執(zhí)行的部分被裝載到內(nèi)存后，CPU要從內(nèi)存中取出指令，然后指令解了碼(以便知道類型和操作數(shù)，簡(jiǎn)單的理解為CPU要知道這是什么指令)，然后執(zhí)行該指令。再然后取下一個(gè)指令、解了碼、執(zhí)行，以此類推直到程序退出。

在計(jì)算機(jī)體系結(jié)構(gòu)中，CPU 是對(duì)計(jì)算機(jī)的所有硬件資源（如存儲(chǔ)器、輸入輸出單元） 進(jìn)行控制調(diào)配、執(zhí)行通用運(yùn)算的核心硬件單元。CPU 是計(jì)算機(jī)的運(yùn)算和控制核心。計(jì)算機(jī)系統(tǒng)中所有軟件層的操作，終都將通過指令集映射為CPU的操作。

由于CPU訪問內(nèi)存以得到指令或數(shù)據(jù)的時(shí)間要比執(zhí)行指令花費(fèi)的時(shí)間長(zhǎng)很多，因此在CPU內(nèi)部提供了一些用來保存關(guān)鍵變量、臨時(shí)數(shù)據(jù)等信息的通用寄存器。所以，CPU需要提供 一些特定的指令，使得可以從內(nèi)存中讀取數(shù)據(jù)存入寄存器以及可以將寄存器數(shù)據(jù)存入內(nèi)存。

因?yàn)镃PU有大量的緩存和復(fù)雜的邏輯控制單元，因此它非常擅長(zhǎng)邏輯控制、串行的運(yùn)算。相比較而言，GPU因?yàn)橛写罅康乃阈g(shù)運(yùn)算單元，因此可以同時(shí)執(zhí)行大量的計(jì)算工作，它所擅長(zhǎng)的是大規(guī)模的并發(fā)計(jì)算， 計(jì)算量大但是沒有什么技術(shù)含量，而且要重復(fù)很多次。這樣一說，我們利用GPU來提高程序運(yùn)算速度的方法就顯而易見了。使用CPU來做復(fù)雜的邏輯控制，用GPU來做簡(jiǎn)單但是量大的算術(shù)運(yùn)算，就能夠大大地提高程序的運(yùn)行速度。

CPU有強(qiáng)大的算術(shù)運(yùn)算單 元，可以在很少的時(shí)鐘周期內(nèi)完成算術(shù)計(jì)算。同時(shí)，有很大的緩存可以保存很多數(shù)據(jù)在里面。此外，還有復(fù)雜的邏輯控制單元，當(dāng)程序有多個(gè)分支的時(shí)候， 通過提供分支預(yù)測(cè)的能力來降低延了時(shí)。GPU是基于大的吞吐量設(shè)計(jì)，有很多的算術(shù)運(yùn)算單元和很少的緩存。同時(shí)GPU支持大量的線程同時(shí)運(yùn)行，如果他們需要訪問同一個(gè)數(shù)據(jù)，緩存會(huì)合并這些訪問，自然會(huì)帶來延了時(shí)的問題。盡管有延了時(shí)，但是因?yàn)槠渌阈g(shù)運(yùn)算單元的數(shù)量龐大，因此能夠達(dá)到一個(gè)非常大的吞吐量的效果。