Co je mezipaměť L0?

CPU jsou neuvěřitelně složité bestie. Existuje mnoho vzájemně propojených částí, které musí všechny fungovat v dokonalém souladu, aby bylo dosaženo úrovně výkonu, kterou vidíme. Jednou z klíčových vlastností CPU je mezipaměť. Není to žádná okázalá funkce. Nereklamuje tak dobře jako počet jader nebo špičková frekvence zesílení. Pro výkon je však rozhodující.

Proč Cache?

Moderní CPU jsou neuvěřitelně rychlé. Každou sekundu provedou více než pět miliard operací. Udržet CPU napájené daty, když pracuje tak rychle, je obtížné. RAM má dostatečnou kapacitu pro zásobování CPU daty. Dokáže dokonce přenášet data každou sekundu, a to díky velmi vysoké šířce pásma. To však není problém. Problém je latence.

RAM může reagovat velmi rychle. Problém je v tom, že „velmi rychle“ je dlouhá doba, kdy každou sekundu uděláte pět miliard věcí. I ta nejrychlejší RAM má latenci nad 60 nanosekund. Opět 60 nanosekund zní jako žádný čas. Problém je v tom, že kdyby CPU běžel na 1GHz, trvalo by cyklus 1ns. U špičkových procesorů dosahujících 5,7 GHz je to jeden cyklus každých 175 pikosekund. Jak teď vypadá těch 60 nanosekund latence? To je 342 cyklů latence.

Tento druh latence by byl zabijákem jakéhokoli výkonu CPU. Abychom to obešli, používá se cache. Cache je umístěna na samotné matrici CPU. Je také mnohem menší než RAM a používá jinou strukturu, spíše SRAM než DRAM. Díky tomu reaguje mnohem rychleji než hlavní systémová RAM. Mezipaměť je obvykle vrstvená, přičemž L1, L2 a L3 se používají k označení vrstev, které se dostávají dále a dále od jader CPU. Nižší úrovně jsou rychlejší, ale menší. L1 může mít latenci čtyři nebo pět hodinových cyklů, mnohem lepší než 342.

Ale některé CPU zmiňují L0?

Terminologie pro L1, L2 a L3 je docela standardní. Nejasné chápání toho, co znamenají a co dělají, je poměrně běžné, dokonce i u výrobců CPU. Je to proto, že se řídí materiálovou a elektrickou fyzikou; se toho moc změnit nedá. Můžete mít rychlou cache nebo velkou cache, ne obojí. Pokud sdílíte mezipaměť mezi více jádry, musí být větší. Za tímto účelem mají L1 a L2 tendenci být specifické pro jádro. Větší mezipaměť L3 má tendenci být sdílena mezi některými nebo všemi jádry na CPU nebo čipletu.

Jak pravděpodobně tušíte, L0 souvisí s ukládáním do mezipaměti, ale do schématu pojmenování byla zařazena až dodatečně. Nepomáhá to však pochopit, co to znamená. Některé věci si ale asi dokážete domyslet. Bude to omezeno na jedno jádro, bude to maličké a bude to rychlé. Druhé jméno, pod kterým jde, může trochu pomoci; to je mikro-op cache.

Místo ukládání dat z paměti nebo úplných instrukcí do mezipaměti L0 ukládá mikrooperace do mezipaměti. Jak jsme nedávno popsali , micro-op je vlastnost moderních CPU. Instrukce v x86 a dalších ISA jsou velké, složité a náročné na efektivní začlenění do potrubí. Můžete je propojit mnohem efektivněji, pokud je rozdělíte na jednotlivé mikrooperace. V některých případech můžete dokonce seskupit více mikrooperací, a to i z různých instrukcí, do jediné mikrooperace, čímž dosáhnete zlepšení výkonu i snížení spotřeby.

CPU Architecture ft Micro-Op Cache

Pro provedení instrukce ji moderní CPU dekóduje. To zahrnuje rozdělení instrukce do jejích základních mikrooperací a určení paměťových míst, na která by se mělo odkazovat. Mnoho softwaru pravidelně využívá podobnou funkci a často může znovu použít stejný kód ve smyčce nebo z volané funkce. To znamená, že přesné instrukce lze volat znovu a znovu. To pak znamená, že stejné mikrooperace jsou volány znovu a znovu. A pokud jsou stejné mikrooperace potřeba opakovaně, lze je uložit do mezipaměti. Micro-ops ukládání do mezipaměti může snížit zatížení instrukčních dekodérů, snížit spotřebu energie nebo pomoci rychleji zaplnit kanál.

Cache musí být udržována malá, ale když je pečlivě spravována, lze k ní přistupovat s jednou nebo dokonce žádnou latencí cyklu. To může stačit k tomu, aby se zabránilo nutnosti převzít 4cyklovou latenci do mezipaměti L1 a přichází bez penalizace za vynechání mezipaměti.

Závěr

L0 cache je jiný název pro micro-op cache. Může být součástí moderních CPU, které využívají mikrooperace. Obvykle pojme několik tisíc položek a má kapacity uvedené spíše v počtech položek než v bajtech. L0 může být přístupný rychleji než L1, typicky s 1- nebo 0-cyklovou latencí. Micro-ops ukládání do mezipaměti snižuje zatížení instrukčních dekodérů, zejména v kódu, který dobře využívá smyčky nebo funkce.