Što je Scratchpad memorija?

Pristup podacima kritičan je dio dizajna procesora. CPU-i rade iznimno velikim brzinama, obrađuju višestruke instrukcije u svakom ciklusu takta i stoga im je potreban pristup velikom broju podataka. Velika većina tih podataka pohranjena je na mediju za pohranu. Međutim, uređaji za pohranu nevjerojatno su spori u usporedbi s CPU-om. Uređaji za pohranu također su značajno bolji u sekvencijalnim čitanjima nego u nasumičnim čitanjima, iako SSD-ovi nude značajno poboljšanje u tom pogledu (i mnogim drugim) u odnosu na HDD-ove.

RAM memorija sustava dizajnirana je tako da se učitava sa svim podacima koje CPU može trebati za trenutno pokrenuti softver. RAM ima znatno nižu latenciju od pohrane, a također je posebno prilagođen za postizanje visokih performansi nasumičnog čitanja. Ipak, koliko god je moderni RAM brz, još uvijek je ništa u usporedbi s CPU-om s latencijama reda veličine 400 ciklusa takta.

Kako bi se dodatno smanjila latencija, većina modernih CPU-a uključuje razine predmemorije. Obično se to nazivaju L1, L2 i L3 predmemorije. L1 je stvarno velike brzine, obično uzima oko 5 ciklusa takta za pristup. L2 je malo sporiji, reda veličine 20 ciklusa. L3 je još sporiji na oko 200 ciklusa. Iako je L1 nevjerojatno brz, također je malen. Velik dio njegove brzine dolazi od činjenice da manje predmemorije traže manje vremena. L2 je veći od L1, ali manji od L3 koji je još manji od RAM-a sustava. Dobro balansiranje veličine ovih predmemorija ključno je za dobivanje CPU-a visokih performansi. Omjeri pogodaka predmemorije su važni, ali morate uravnotežiti broj pogodaka s time koliko je vremena potrebno da se postigne taj pogodak, a time i razine.

Scratchpad memorija

Imajte na umu da se memorija za scratchpad ne uklapa u tradicionalnu hijerarhiju memorije. To je zato što se ne koristi u većini potrošačkih procesora. Memorija za natuknice dizajnirana je za korištenje kao što bi se scratchpad koristio u stvarnom životu. Bilježite privremene informacije koje morate zapamtiti, ali ih zapravo ne morate arhivirati. Velik dio vremena CPU obrađuje podatke, a potom je odmah potreban taj rezultat. Može ga kopirati u memoriju, ali da bi mu mogao brzo pristupiti, također bi ga trebao držati u predmemorij.

Scratchpad memorija u biti ispunjava istu prazninu kao L1 predmemorija. Dostupan je što je brže moguće, često u jednoznamenkastim brojevima ciklusa. Da bi to uspio, također je relativno malen. Međutim, postoje dvije ključne razlike između L1 i memorije za natuknice. Prvo, memorija bloka za natuknice može se izravno adresirati. Drugo, dijeli se između svih jezgri i procesora.

Razlike između predmemorije i bloka za natuknice

CPU predmemorija je u biti transparentna za CPU, ne može namjerno stavljati podatke tamo i njen sadržaj se ne može programirati. Umjesto toga, CPU samo traži podatke iz RAM-a i događa se da ih vraća brže, ponekad znatno brže nego što bi očekivao. Omogućavanje adresabilnosti bloka za natuknice znači da kod može specificirati točno koji podaci trebaju biti u bloku za natuknice. Ovo može biti korisno, iako su moderni algoritmi za predmemoriju izvrsni s očekivanim stopama pogodaka od 95-97% u standardnim radnim opterećenjima.

L1 predmemorija uvijek je zaključana za pojedinačnu procesorsku jezgru. Nijedna druga procesorska jezgra ne može mu pristupiti. To znači da ako više jezgri treba iste podatke, mogu ih duplicirati u svojim L1 predmemorijama. U nekim CPU arhitekturama, L2 je po jezgri, u drugima ga dijeli mali broj ili čak sve jezgre. L3 obično dijele sve jezgre. Dijeljenje predmemorije između jezgri omogućuje dvjema ili više jezgri pristup istim podacima bez njihovog dupliciranja. Također omogućuje jednoj jezgri da iskoristi više od svog poštenog udjela kada ima potrebe i predmemorija ima prostora.

Scratchpad se ponaša slično L1 u pogledu brzine i kapaciteta, ali je podijeljen između svih jezgri. To omogućuje vrlo brz pristup određenim podacima na koje se djeluje u višenitnom radnom opterećenju. Scratchpad memorija se čak može dijeliti između različitih CPU-a na matičnim pločama s više utičnica.

Jedan nedostatak memorije za scratchpad je da se na nju može previše oslanjati. Budući da mu se može izravno pristupiti, softver se može oslanjati na njegovu prisutnost u određenim količinama. U ovom slučaju, tada ne bi mogao raditi na procesorima bez toliko memorije za scratchpad. Razine predmemorije jednostavno ne pate od ovog problema i zato su prikladnije za opću upotrebu.

Slučajevi upotrebe

Scratchpad memorija se najčešće nalazi u multi-socket poslužiteljskim sustavima dizajniranim za HPC (High-Performance Computing). Njegova kombinacija brzine i zajedničkog pristupa čini ga korisnim za vrlo paralelna radna opterećenja.

Scratchpad memorija također se koristi u puno manjim procesorima. Ugrađeni procesori, često MPSoC. Ugrađeni procesor često je relativno male snage i specijaliziran za određeni zadatak. Ova specijalizacija je često zastupljena u hardverskim optimizacijama. Posebno u višeprocesorskom sustavu na čipu, zajednička memorija velike brzine može pružiti značajna poboljšanja latencije za više različitih procesora. Ove vrste CPU-a često su vrlo fiksnog dizajna. Igraće konzole, na primjer, već imaju mnogo optimizacija za dizajn hardvera i stoga mogu dobro iskoristiti takve značajke bez potrebe za brigom o kompatibilnosti s prethodnim ili prethodnim verzijama.

Zaključak

Scratchpad memorija slična je L1 predmemorije, ali ima niz razlika koje mijenjaju slučajeve njezine upotrebe. Umjesto predmemorije, može se izravno adresirati, što omogućuje posebno dodjeljivanje podataka posebno brzoj memoriji. Također se dijeli između svih procesorskih jezgri i procesora, što ga čini osobito korisnim u radnim opterećenjima s velikim brojem niti.