Co je NUMA?

Pokud peníze nejsou problém, můžete si koupit všechny nejdražší spotřební PC díly a postavit si mocný počítač, abyste mohli kontrolovat e-maily a procházet sociální sítě. Samozřejmě, takto většina lidí věci nekupuje; nejde ani o to, jak bohatí lidé věci kupují, protože to není skvělý způsob, jak zůstat bohatými. Místo toho se většina lidí podívá na to, co chtějí s počítačem dělat, a pak najdou počítač, který má vhodný hardware.

Na domácím trhu je slušný výběr, ale jakmile se dostanete na trh pracovních stanic a serverů, existují ještě výkonnější možnosti za ještě více peněz. Například nejlepší počítač, který si můžete doma postavit, podporuje 16 jader ( nebo 24, pokud počítáte efektivní jádra Intelu ). Můžete také získat výkonný GPU. Technicky můžete získat více výkonných GPU, ale nemůžete je používat společně, protože SLI/NVLINK je v podstatě mrtvý.

Na trhu serverů a pracovních stanic můžete získat mnohem více jader v CPU, až 96 v řadě EPYC od AMD. Můžete také získat GPU s schopnějšími propojeními a více VRAM. Jádra CPU jsou však tam, kam jde hodně peněz, zejména ve světech HPC ( High-Performance Computing ), Hyperscaler a Supercomputing. Co tedy dělat, pokud potřebujete více než 96 jader v jednom počítači? Samozřejmě přidejte další CPU.

Základní desky s více zásuvkami

Samozřejmě, že nemůžete jen tak plácnout druhý CPU na žádnou starou základní desku; nebylo by kam jít. Potřebujete specifický hardware. AMD podporuje možnost umístění dvou jejich serverových CPU EPYC na stejnou základní desku. To nabízí celkem 192 jader nebo 384 vláken. Nejnovější serverové procesory Intel dosahovaly maximálních 40 jader, ačkoli předchozí generace obsahovala 56jádrový model. Intel však podporuje až 8 CPU na jedné základní desce. To je 320 nebo 448 jader a 640 nebo 896 vláken. I když je to pro kontrolu Instagramu přehnané, některé úlohy mohou využívat všechnu tuto koňskou sílu.

Problém pochází z paměti. Čtyři věci obecně omezují CPU. Prvním je nedostatek věcí, které je třeba dělat; někdy se prostě CPU nezatíží. Dále máte energii, stačí jen tolik energie, kterou můžete načerpat, než začnete poškozovat CPU, a jsou nastavena omezení, která zajistí, že CPU nebude vystaveno riziku spálení při plné zátěži. Máte také úzce související teplotní tlak, čím více energie používáte, tím více tepla vytváříte a musíte ho rozptýlit; přehřátí je stejně špatné jako příliš mnoho energie, protože věci začnou tát. Dalším omezením je přístup do paměti.

CPU obvykle potřebuje mnoho dat k provedení velkého množství zpracování. To vše je uloženo v paměti RAM. Bohužel RAM je ve srovnání s CPU dost pomalá. To jej může nechat „věky“ nečinné, než získá data, která potřebuje k provozu. Cache CPU hodně pomáhá, ale je tak malá, že nedokáže pokrýt vše a je potřeba přistupovat k hlavní paměti.

Latence paměti

Aby se minimalizoval účinek pomalé paměti RAM, je fyzicky umístěna co nejblíže CPU. To je důvod, proč je RAM vždy umístěna přímo vedle patice CPU na základní desce. Co se ale stane, když máte na jedné základní desce více CPU? Pak existuje jiná přístupová doba pro CPU pro přístup ke své paměti ve srovnání s pamětí vedle sebe. "Ach ne," můžete říct, "některá paměť je trochu pomalejší." Ale to je skutečný problém, který může mít překvapivě hluboký vliv na výkon. Tento koncept se nazývá Non-Uniform Memory Access, neboli NUMA.

NUMA zahrnuje poskytnutí mechanismu, aby operační systém pochopil, že i když má přístup k celé paměti, některé části jsou pro určité věci upřednostňovány před jinými. Tam, kde je to možné, pak OS ukládá data pro úlohy běžící na CPU1 do paměti RAM přímo vedle CPU1. Podobně data potřebná pro úlohu běžící na CPU2 jsou uložena v RAM přímo vedle CPU2. Samozřejmě, že s omezenou kapacitou RAM a masivními datovými soubory není vždy možné zůstat v těchto mezích. Přesto je vynaloženo maximální úsilí a má významný dopad na výkon.

Přístup do paměti přes jeden kanál je také sekvenční. To znamená, že když se dva různé CPU pokusí o přístup k datům na stejném kanálu, jeden je přímo připojen k DIMM a druhý NUMA hop pryč, druhý požadavek musí nejen čekat nečinně na svůj požadavek, ale také na požadavek druhého. procesor. Pokud je to možné, data by proto měla být uložena v paměti RAM přímo vedle procesoru, který je bude potřebovat.

Závěr

NUMA znamená Non-Uniform Memory Access. Je to termín používaný v počítačových systémech s více fyzickými CPU. Odkazuje na skutečnost, že jeden CPU bude mít jinou latenci paměti než RAM, která ho přímo obklopuje, ve srovnání s RAM obklopující jiný CPU. Zvýšená latence snižuje výkon systému několika způsoby. NUMA je způsob, jak informovat operační systém, že tomu tak je.

Umožňuje optimalizovat využití paměti a umístění dat na základě CPU, které data potřebuje. Kde je to možné, všechna data pro procesy běžící na CPU jsou uložena v RAM přímo připojené k tomuto CPU. Když místní RAM nemá dostatečnou kapacitu, data se mohou přelít do RAM kolem jiných CPU. Opět tam, kde je to možné, je počet NUMA skoků minimalizován, aby se snížila latence.