Mikä on Scratchpad-muisti?

Tietojen käyttö on kriittinen osa suorittimen suunnittelua. Prosessorit toimivat erittäin suurilla nopeuksilla, prosessoivat useita käskyjä jokaisella kellojaksolla, joten ne tarvitsevat pääsyn paljon dataan. Suurin osa näistä tiedoista on tallennettu tallennusvälineille. Tallennuslaitteet ovat kuitenkin mahdottoman hitaita suorittimeen verrattuna. Tallennuslaitteet ovat myös huomattavasti parempia peräkkäisessä kuin satunnaisessa lukemisessa, vaikka SSD-levyt tarjoavatkin tässä (ja monissa muissa) huomattavan parannuksen kiintolevyihin verrattuna.

Järjestelmän RAM on suunniteltu lataamaan kaikki tiedot, joita CPU saattaa tarvita käynnissä olevaa ohjelmistoa varten. RAM-muistilla on huomattavasti pienempi viive kuin tallennustilassa, ja se on myös erityisesti räätälöity korkeaa satunnaislukua varten. Vaikka nykyaikainen RAM on nopea, se ei silti ole mitään verrattuna suorittimeen, jonka latenssit ovat luokkaa 400 kellojaksoa.

Latenssin vähentämiseksi edelleen useimmat nykyaikaiset suorittimet sisältävät välimuistitasoja. Tyypillisesti näitä kutsutaan L1-, L2- ja L3-välimuistiksi. L1 on todella nopea, tyypillisesti kestää noin 5 kellojaksoa päästäkseen. L2 on hieman hitaampi, 20 syklin luokkaa. L3 on vielä hitaampi noin 200 syklissä. Vaikka L1 on uskomattoman nopea, se on myös pieni. Suuri osa sen nopeudesta johtuu siitä, että pienemmät välimuistit vievät vähemmän aikaa etsimiseen. L2 on suurempi kuin L1, mutta pienempi kuin L3, joka on silti pienempi kuin järjestelmän RAM. Näiden välimuistien koon tasapainottaminen on erittäin tärkeää tehokkaan suorittimen saamiseksi. Välimuistin osumasuhteet ovat tärkeitä, mutta sinun on tasapainotettava osumien määrä sen kanssa, kuinka kauan osuman saaminen kestää, eli tasot.

Scratchpad muisti

Huomaa, että Scratchpad-muisti ei mahdu perinteiseen muistihierarkiaan. Tämä johtuu siitä, että sitä ei käytetä useimmissa kuluttajasuorittimissa. Scratchpad-muisti on suunniteltu käytettäväksi samalla tavalla kuin luonnossivua tosielämässä. Kirjaat muistiin väliaikaiset tiedot, jotka sinun on muistettava, mutta joita ei tarvitse varsinaisesti arkistoida. Suurimman osan ajasta CPU käsittelee tietoja ja tarvitsee sen sitten heti uudelleen. Se voi kopioida sen muistiin, mutta voidakseen käyttää sitä nopeasti sen pitäisi myös säilyttää se välimuistissa.

Scratchpad-muisti täyttää käytännössä saman aukon kuin L1-välimuisti. Se on käytettävissä mahdollisimman nopeasti, usein yksinumeroisina jaksolukuina. Tämän hallitsemiseksi se on myös suhteellisen pieni. L1:n ja scratchpad-muistin välillä on kuitenkin kaksi keskeistä eroa. Ensinnäkin scratchpad-muisti on suoraan osoitettavissa. Toiseksi se jaetaan kaikkien ytimien ja prosessorien kesken.

Erot välimuistin ja scratchpadin välillä

Prosessorin välimuisti on periaatteessa läpinäkyvä CPU:lle, se ei voi tarkoituksella laittaa sinne dataa eikä sen sisältöä voi ohjelmoida. Sen sijaan CPU vain pyytää tietoja RAM-muistista ja saa ne takaisin nopeammin, joskus huomattavasti nopeammin kuin se saattaisi odottaa. Scratchpadin osoitteen salliminen tarkoittaa, että koodi voi määrittää tarkalleen, mitä tietoja luonnossivulla tulee olla. Tämä voi olla hyödyllistä, vaikka nykyaikaiset välimuistialgoritmit ovat erinomaisia, sillä tavallisissa työkuormissa odotetaan 95–97 %:n osumia.

L1-välimuisti on aina lukittu yksittäiselle käsittelyytimelle. Mikään muu käsittelyydin ei pääse siihen käsiksi. Tämä tarkoittaa, että jos useat ytimet tarvitsevat samoja tietoja, ne voivat kopioida sen vastaaviin L1-välimuistiin. Joissakin CPU-arkkitehtuureissa L2 on ydintä kohti, toisissa se on jaettu pienelle määrälle tai jopa kaikille ytimille. L3 on yleensä kaikkien ytimien yhteinen. Välimuistin jakaminen ytimien välillä mahdollistaa kahden tai useamman ytimen pääsyn samoihin tietoihin kopioimatta niitä. Se mahdollistaa myös yhden ytimen hyödyntää enemmän kuin sen kohtuullisen osuuden, kun sillä on tarvetta ja välimuistissa on tilaa.

Scratchpad toimii samalla tavalla kuin L1 nopeuden ja kapasiteetin suhteen, mutta se jaetaan kaikkien ytimien kesken. Tämä mahdollistaa erittäin nopean pääsyn tiettyihin tietoihin, joita käsitellään monisäikeisessä työkuormassa. Scratchpad-muisti voidaan jopa jakaa eri prosessorien kesken monikantaisissa emolevyissä.

Yksi scratchpad-muistin haittapuoli on se, että siihen voidaan luottaa liian voimakkaasti. Ohjelmisto voi käyttää sitä suoraan, joten se voi luottaa sen läsnäoloon tietyissä määrin. Tässä tapauksessa se ei pystyisi toimimaan prosessoreilla ilman niin paljon scratchpad-muistia. Välimuistitasot eivät yksinkertaisesti kärsi tästä ongelmasta, joten ne sopivat paremmin yleiskäyttöön.

Käytä koteloita

Scratchpad-muisti löytyy useimmiten monikantaisista palvelinjärjestelmistä, jotka on suunniteltu HPC:lle (High-Performance Computing). Siellä sen nopeuden ja jaetun pääsyn yhdistelmä tekee siitä hyödyllisen erittäin rinnakkaisissa työkuormissa.

Scratchpad-muistia käytetään myös paljon pienemmissä prosessoreissa. Sulautetut prosessorit, usein MPSoC:t. Sulautettu prosessori on usein suhteellisen pienitehoinen ja erikoistunut tiettyyn tehtävään. Tämä erikoisala on usein edustettuna laitteistooptimoinnissa. Erityisesti sirulla olevassa moniprosessorijärjestelmässä jaettu nopea muisti voi tarjota merkittäviä latenssiparannuksia useille eri prosessoreille. Tällaiset prosessorit ovat usein rakenteeltaan hyvin kiinteitä. Esimerkiksi pelikonsoleissa on jo paljon laitteistosuunnittelun optimointia, joten ne voivat hyödyntää näitä ominaisuuksia hyvin ilman, että tarvitsee huolehtia taaksepäin tai eteenpäin yhteensopivuudesta.

Johtopäätös

Scratchpad-muisti on samanlainen kuin L1-välimuisti, mutta siinä on useita eroja, jotka muuttavat sen käyttötapauksia. Sen sijaan, että se olisi välimuisti, se on suoraan osoitettavissa, jolloin tiedot voidaan määrittää erityisesti erityisen nopeaan muistiin. Se on myös jaettu kaikkien prosessoriytimien ja prosessorien kesken, mikä tekee siitä erityisen hyödyllisen raskaassa monisäikeisissä työkuormissa.