Co je to paměť zápisníku?

Přístup k datům je kritickou součástí návrhu CPU. CPU pracují při extrémně vysokých rychlostech, zpracovávají více instrukcí v každém hodinovém cyklu, a proto potřebují přístup k velkému množství dat. Naprostá většina těchto dat je uložena na paměťovém médiu. Úložná zařízení jsou však ve srovnání s CPU neuvěřitelně pomalá. Úložná zařízení jsou také výrazně lepší při sekvenčním čtení než při náhodném čtení, ačkoli SSD nabízejí v tomto ohledu (a mnoha dalších) výrazné zlepšení oproti HDD.

Systémová RAM je navržena tak, aby byla načtena všemi daty, která CPU může potřebovat pro aktuálně spuštěný software. RAM má výrazně nižší latenci než úložiště a je také speciálně přizpůsobena pro vysoký výkon náhodného čtení. Přesto, jakkoli je moderní RAM rychlá, stále je to nic ve srovnání s CPU s latencemi v řádu 400 hodinových cyklů.

Pro další snížení latence většina moderních procesorů obsahuje vrstvy mezipaměti. Obvykle se tyto mezipaměti označují jako mezipaměti L1, L2 a L3. L1 je opravdu vysokorychlostní, obvykle trvá přístup v řádu 5 hodinových cyklů. L2 je o něco pomalejší, řádově 20 cyklů. L3 je ještě pomalejší, přibližně 200 cyklů. Zatímco L1 je neuvěřitelně rychlý, je také malý. Velká část jeho rychlosti pochází ze skutečnosti, že vyhledávání menších mezipamětí zabere méně času. L2 je větší než L1, ale menší než L3, což je stále menší než systémová RAM. Správné vyvážení velikosti těchto mezipamětí je rozhodující pro získání vysoce výkonného CPU. Poměry zásahů do mezipaměti jsou důležité, ale musíte vyvážit počet zásahů s tím, jak dlouho trvá dosažení tohoto zásahu, a proto ty úrovně.

Zápisníková paměť

Pamatujte, že zápisníková paměť nezapadá do tradiční hierarchie paměti. Je to proto, že se nepoužívá ve většině spotřebitelských CPU. Paměť zápisníku je navržena tak, aby se dala používat jako zápisník v reálném životě. Zaznamenáte si dočasné informace, které si musíte zapamatovat, ale nemusíte je ve skutečnosti archivovat. Většinu času CPU zpracovává data a pak tento výsledek okamžitě potřebuje znovu. Může jej zkopírovat do paměti, ale aby k němu měl rychlý přístup, měl by jej také uchovávat v mezipaměti.

Paměť Scratchpad v podstatě vyplňuje stejnou mezeru jako L1 cache. Je dostupný co nejrychleji, často v jednociferných počtech cyklů. Aby to bylo možné zvládnout, je také relativně malý. Existují však dva klíčové rozdíly mezi pamětí L1 a zápisníkem. Za prvé, zápisníková paměť je přímo adresovatelná. Za druhé je sdílený mezi všemi jádry a procesory.

Rozdíly mezi cache a zápisníkem

Cache CPU je pro CPU v podstatě transparentní, nemůže tam záměrně dávat data a její obsah nelze naprogramovat. Místo toho CPU pouze požaduje data z RAM a náhodou je dostane zpět rychleji, někdy výrazně rychleji, než by se dalo očekávat. Povolení adresovatelného zápisníku znamená, že kód může přesně určit, jaká data by měla být v zápisníku. To může být užitečné, i když moderní algoritmy ukládání do mezipaměti jsou vynikající s mírou zásahů 95–97 % očekávanou ve standardních úlohách.

L1 cache je vždy uzamčena pro jednotlivé procesorové jádro. Žádné jiné procesorové jádro k němu nemá přístup. To znamená, že pokud více jader potřebuje stejná data, mohou je duplikovat ve svých příslušných mezipaměti L1. V některých architekturách CPU je L2 na jádro, v jiných je sdíleno malým počtem nebo dokonce všemi jádry. L3 bývá sdílena všemi jádry. Sdílení mezipaměti mezi jádry umožňuje dvěma nebo více jádrům přístup ke stejným datům bez jejich duplikace. Umožňuje také jednomu jádru využít více, než je jeho spravedlivý podíl, když má potřebu a mezipaměť má prostor.

Scratchpad funguje podobně jako L1, pokud jde o rychlost a kapacitu, ale je sdílený mezi všemi jádry. To umožňuje velmi rychlý přístup ke konkrétním datům, se kterými se pracuje ve vícevláknové zátěži. Paměť Scratchpad lze dokonce sdílet mezi různými procesory na základních deskách s více paticemi.

Jednou nevýhodou zápisníkové paměti je, že se na ni lze příliš spoléhat. Díky možnosti přímého přístupu k němu může software v určitých množstvích spoléhat na jeho přítomnost. V tomto případě by pak nebyl schopen běžet na CPU bez tolika paměti zápisníku. Vrstvy mezipaměti tímto problémem jednoduše netrpí, a proto jsou vhodnější pro všeobecné použití.

Případy užití

Paměť Scratchpad se nejčastěji vyskytuje ve vícesoketových serverových systémech určených pro HPC (High-Performance Computing). Díky kombinaci rychlosti a sdíleného přístupu je užitečný pro vysoce paralelní pracovní zátěže.

Paměť Scratchpad také najde využití v mnohem menších procesorech. Vestavěné procesory, často MPSoC. Vestavěný procesor má často relativně nízkou spotřebu a specializuje se na konkrétní úkol. Tato specializace je často zastoupena v optimalizacích hardwaru. Zejména ve víceprocesorovém systému na čipu může sdílená vysokorychlostní paměť poskytnout významné zlepšení latence pro více různých procesorů. Tyto druhy CPU jsou často designově velmi pevné. Například herní konzole již mají mnoho optimalizací pro návrh hardwaru, a tak mohou tyto funkce dobře využívat, aniž by se museli starat o zpětnou nebo dopřednou kompatibilitu.

Závěr

Paměť Scratchpad je podobná L1 cache, ale má řadu rozdílů, které mění její případy použití. Namísto toho, aby se jednalo o mezipaměť, je přímo adresovatelná, což umožňuje specificky přiřazovat data do zvláště vysokorychlostní paměti. Je také sdílený mezi všemi procesorovými jádry a procesory, takže je zvláště užitečný při zátěži s velkým množstvím vláken.