Čo je to pamäť Scratchpad?

Prístup k údajom je kritickou súčasťou návrhu CPU. CPU pracujú pri extrémne vysokých rýchlostiach, spracovávajú viacero inštrukcií v každom taktovom cykle, a preto potrebujú prístup k veľkému množstvu údajov. Prevažná väčšina týchto údajov je uložená na pamäťovom médiu. Úložné zariadenia sú však v porovnaní s CPU neuveriteľne pomalé. Úložné zariadenia sú tiež výrazne lepšie pri sekvenčnom čítaní ako pri náhodnom čítaní, hoci SSD ponúkajú v tomto smere (a mnohých ďalších) výrazné zlepšenie oproti HDD.

Systémová pamäť RAM je navrhnutá tak, aby bola načítaná všetkými údajmi, ktoré môže CPU potrebovať pre aktuálne spustený softvér. RAM má výrazne nižšiu latenciu ako úložisko a je tiež špeciálne prispôsobená na vysoký výkon náhodného čítania. Napriek tomu, že moderná RAM je rýchla, stále je to nič v porovnaní s CPU s latenciami rádovo 400 hodinových cyklov.

Na ďalšie zníženie latencie väčšina moderných CPU obsahuje vrstvy vyrovnávacej pamäte. Zvyčajne sa tieto pamäte označujú ako vyrovnávacie pamäte L1, L2 a L3. L1 je skutočne vysokorýchlostný, zvyčajne trvá prístup rádovo 5 hodinových cyklov. L2 je o niečo pomalší, rádovo 20 cyklov. L3 je ešte pomalší pri približne 200 cykloch. Zatiaľ čo L1 je neuveriteľne rýchly, je tiež malý. Veľká časť jeho rýchlosti pochádza zo skutočnosti, že vyhľadávanie menších skrýš trvá menej času. L2 je väčšia ako L1, ale menšia ako L3, ktorá je stále menšia ako systémová RAM. Správne vyváženie veľkosti týchto vyrovnávacích pamätí je rozhodujúce pre získanie vysokovýkonného CPU. Pomery zásahov do vyrovnávacej pamäte sú dôležité, ale musíte vyvážiť počet zásahov s tým, ako dlho trvá dosiahnutie tohto zásahu, teda tie úrovne.

Scratchpad pamäť

Upozorňujeme, že pamäť typu zápisník nezapadá do tradičnej hierarchie pamäte. Je to preto, že sa nepoužíva vo väčšine spotrebiteľských CPU. Pamäť Scratchpad je navrhnutá tak, aby sa dala používať ako zápisník v reálnom živote. Zaznamenáte si dočasné informácie, ktoré si musíte zapamätať, ale v skutočnosti ich nemusíte archivovať. Väčšinu času procesor spracováva údaje a potom tento výsledok okamžite potrebuje znova. Môže ho skopírovať do pamäte, ale aby k nemu mal rýchly prístup, mal by ho uchovávať aj vo vyrovnávacej pamäti.

Pamäť Scratchpad v podstate vypĺňa rovnakú medzeru ako vyrovnávacia pamäť L1. Je dostupný čo najrýchlejšie, často v jednociferných počtoch cyklov. Aby to bolo možné zvládnuť, je tiež relatívne malý. Existujú však dva kľúčové rozdiely medzi pamäťou L1 a zápisníkom. Po prvé, zápisníková pamäť je priamo adresovateľná. Po druhé, zdieľajú ho všetky jadrá a procesory.

Rozdiely medzi vyrovnávacou pamäťou a zápisníkom

Cache CPU je pre CPU v podstate transparentná, nemôže tam zámerne ukladať dáta a jej obsah sa nedá naprogramovať. Namiesto toho CPU len požaduje dáta z RAM a náhodou ich dostane späť rýchlejšie, niekedy výrazne rýchlejšie, než by sa dalo očakávať. Povolenie adresovateľnosti zápisníka znamená, že kód môže presne určiť, aké údaje by mali byť v zápisníku. To môže byť užitočné, hoci moderné algoritmy ukladania do vyrovnávacej pamäte sú vynikajúce, pričom pri štandardných pracovných zaťaženiach sa očakáva miera zásahov 95 – 97 %.

Cache L1 je vždy uzamknutá pre jednotlivé jadro spracovania. Žiadne iné jadro spracovania k nemu nemá prístup. To znamená, že ak viaceré jadrá potrebujú rovnaké dáta, môžu ich duplikovať vo svojich príslušných vyrovnávacích pamätiach L1. V niektorých architektúrach CPU je L2 na jadro, v iných je zdieľaný malým počtom alebo dokonca všetkými jadrami. L3 má tendenciu byť zdieľaná všetkými jadrami. Zdieľanie vyrovnávacej pamäte medzi jadrami umožňuje dvom alebo viacerým jadrám prístup k rovnakým údajom bez ich duplikácie. Umožňuje tiež jednému jadru využiť viac, než je jeho spravodlivý podiel, keď má potrebu a vyrovnávacia pamäť má priestor.

Scratchpad funguje podobne ako L1, pokiaľ ide o rýchlosť a kapacitu, je však zdieľaný medzi všetkými jadrami. To umožňuje veľmi rýchly prístup ku konkrétnym údajom, s ktorými sa pracuje vo viacvláknovom pracovnom zaťažení. Pamäť Scratchpad možno dokonca zdieľať medzi rôznymi procesormi na základných doskách s viacerými päticami.

Jednou nevýhodou zápisníkovej pamäte je, že sa na ňu možno príliš spoliehať. Softvér, ktorý má k nemu priamy prístup, sa môže spoliehať na jeho prítomnosť v určitých množstvách. V tomto prípade by potom nebol schopný bežať na procesoroch bez takého množstva zápisnej pamäte. Vrstvy vyrovnávacej pamäte týmto problémom jednoducho netrpia, a preto sú vhodnejšie na všeobecné použitie.

Prípady použitia

Pamäť Scratchpad sa najčastejšie nachádza vo viacsoketových serverových systémoch určených pre HPC (High-Performance Computing). Kombinácia rýchlosti a zdieľaného prístupu ho robí užitočným pre vysoko paralelné pracovné zaťaženia.

Pamäť Scratchpad nájde využitie aj v oveľa menších procesoroch. Vstavané procesory, často MPSoC. Vstavaný procesor má často relatívne nízku spotrebu a je špecializovaný na konkrétnu úlohu. Táto špecializácia je často zastúpená v hardvérových optimalizáciách. Najmä vo viacprocesorovom systéme na čipe môže zdieľaná vysokorýchlostná pamäť poskytnúť významné zlepšenia latencie pre viacero rôznych procesorov. Tieto druhy procesorov sú často veľmi nemenné v dizajne. Napríklad herné konzoly už majú veľa optimalizácií pre dizajn hardvéru, a tak môžu tieto funkcie dobre využívať bez toho, aby sa museli obávať spätnej alebo doprednej kompatibility.

Záver

Pamäť Scratchpad je podobná vyrovnávacej pamäti L1, ale má množstvo rozdielov, ktoré menia jej prípady použitia. Namiesto toho, aby to bola vyrovnávacia pamäť, je priamo adresovateľná, čo umožňuje špecificky priraďovať údaje do obzvlášť vysokorýchlostnej pamäte. Je tiež zdieľaný medzi všetkými procesorovými jadrami a procesormi, vďaka čomu je obzvlášť užitočný pri vysokom viacvláknovom zaťažení.