Hvað er CPU Cache?

Nútíma örgjörvar keyra ótrúlega hratt; þeir geta farið verulega fram úr kerfisvinnsluminni. Þetta hraðaójafnvægi milli örgjörva og minnis myndi valda því að örgjörvinn þinn situr oft aðgerðalaus og bíður eftir að gögn séu send til hans svo hann geti haldið áfram að keyra ferli. Til að koma í veg fyrir að þetta gerist, sem gerir örgjörva kleift að halda áfram að keyra hraðar og hraðar, er CPU skyndiminni notað.

Hvernig flýtir skyndiminni CPU CPU?

CPU skyndiminni er hannað til að vera eins hratt og mögulegt er og til að vista þá gögn sem CPU biður um. Örgjörva skyndiminni hefur hraða sinn fínstilltan á þrjá vegu: leynd, bandbreidd og nálægð. CPU skyndiminni starfar á mjög lágum töfum, sem lágmarkar þann tíma sem það tekur fyrir niðurstöðu að skila. Til dæmis hefur Intel i9-9900k skyndiminni leynd 0,8, 2,4 og 11,1 nanósekúndur fyrir L1, L2 og L3 skyndiminni í sömu röð. Til samanburðar er leynd nútíma háhraða vinnsluminni af stærðargráðunni 14 nanósekúndur.

Ábending: Skyndiminni stigin verða útskýrð nánar síðar, en einfaldlega setja neðri lögin af skyndiminni eru hraðari en eru dýrari svo hafa minni getu. Nanósekúnda er milljarður úr sekúndu, þannig að leynd upp á 0,8 sekúndur þýðir að það tekur minna en milljarð úr sekúndu að skila niðurstöðu.

Hvað varðar bandbreidd, þá býður CPU skyndiminni upp á verulegar frammistöðubætir yfir hefðbundna geymslu og vinnsluminni. Leshraði L1 og L3 skyndiminni getur náð hámarki í 2,3 TB/s og 370 GB/s í sömu röð, en bandbreidd vinnsluminni er venjulega um 40 GB/s. Þessi aukna bandbreidd þýðir að CPU skyndiminni getur flutt gögn yfir á CPU mun hraðar en vinnsluminni getur.

Til að ná sem mestum hraða er CPU skyndiminni í raun innbyggt í sílikon örgjörva deyja sjálfs. Þetta lágmarkar fjarlægðina sem öll rafmerki þurfa að ferðast, þannig að töfin er eins lág og mögulegt er. Til dæmis, þegar L3 skyndiminni var fyrst flutt frá móðurborðinu yfir á CPU deyja, þá gat örgjörvi þess tíma (Pentium 4 EE) náð 10-20% frammistöðubótum.

CPU skyndiminni arkitektúr

Nútíma örgjörvar nota almennt þrjú lög af örgjörva skyndiminni merkt L1-3, þar sem lægri númeruð skyndiminni eru nær örgjörva kjarna, hraðari og dýrari. Hver einstakur CPU kjarna í fjölkjarna örgjörva hefur sitt eigið L1 skyndiminni. Það er venjulega skipt í tvo hluta, L1I og L1D. L1I er notað til að vista leiðbeiningar fyrir CPU á meðan L1D er notað til að vista gögnin sem þessar leiðbeiningar á að framkvæma á.

Hver CPU kjarni hefur venjulega líka sitt eigið L2 skyndiminni á nútíma örgjörva. L2 skyndiminni er stærra og hægara en L1 skyndiminni og er fyrst og fremst notað til að geyma gögn sem annars myndu ekki passa í L2 skyndiminni. Með því að hafa sérstakt L2 skyndiminni fyrir hvern kjarna er forðast skyndiminnideilur. Skyndiminni deilur er þar sem mismunandi kjarna berjast við að gera tilkall til skyndiminnis fyrir eigin vinnuálag, sem getur leitt til þess að mikilvæg gögn eru hreinsuð úr skyndiminni.

L3 skyndiminni er venjulega deilt á milli allra CPU kjarna örgjörvans. Aftur, L3 skyndiminni er hægari en L2 skyndiminni en er ódýrari og stærri. Með því að útvega sameiginlegt skyndiminni er hægt að draga úr magni gagna sem yrði afritað á lægri stigum skyndiminni fyrir hverja kjarna.

Ábending: Sem dæmi, í skyndiminni stærðum, Intel i9-9900K er með 64KB L1 og 256KB L2 skyndiminni á hvern kjarna (fyrir samtals 512KB L1 og 2MB L2), hann hefur einnig 16MB sameiginlegt L3 skyndiminni.

Hvernig er CPU skyndiminni notað?

Öll stig CPU skyndiminni eru notuð til að flýta fyrir afköstum örgjörva með því að vista gögn úr vinnsluminni. Þegar örgjörvi biður um gögn leitar hann venjulega í gegnum skyndiminnislög sín fyrst til að reyna að fá gögnin eins hratt og mögulegt er. Ef gögnin finnast í skyndiminni getur CPU haldið áfram vinnslu þeirra. Ef gögnin eru ekki í skyndiminni, í því sem kallast skyndiminni miss, þá þarf örgjörvinn að athuga vinnsluminni og svo harða diskinn ef gögnin eru ekki til staðar líka. Hraðari lögin eru alltaf skoðuð fyrst fyrir hámarksafköst.

Til að hjálpa örgjörvanum að hafa gögnin sem hann þarf í skyndiminni þegar hann þarf á þeim að halda, reynir skyndiminni að koma í veg fyrir hvaða gögn CPU gæti þurft næst. Til dæmis, ef örgjörvinn hefur beðið um einhver gögn fyrir mynd sem hann er að gera skyndiminni gæti reynt að forvirkja skyndiminni meira af myndgögnum svo hægt sé að gefa þeim til örgjörvans eins hratt og mögulegt er.