čo je NUMA?

Ak peniaze nie sú problémom, môžete si kúpiť všetky najdrahšie spotrebné PC diely a zostaviť si výkonný počítač na kontrolu e-mailov a rolovanie cez sociálne siete. Samozrejme, takto väčšina ľudí nekupuje veci; nejde ani o to, ako bohatí ľudia kupujú veci, pretože to nie je skvelý spôsob, ako zostať bohatými. Namiesto toho sa väčšina ľudí pozrie na to, čo chce s počítačom robiť, a potom nájde počítač, ktorý má vhodný hardvér.

Na domácom trhu je slušný výber, ale keď sa dostanete na trh pracovných staníc a serverov, existujú ešte výkonnejšie možnosti za ešte viac peňazí. Napríklad najlepší počítač, ktorý si môžete postaviť doma, podporuje 16 jadier ( alebo 24, ak počítate jadrá efektívnosti Intelu ). Môžete tiež získať výkonný GPU. Technicky môžete získať viacero výkonných GPU, ale nemôžete ich používať spolu, pretože SLI/NVLINK je v podstate mŕtvy.

Na trhu serverov a pracovných staníc môžete získať oveľa viac jadier v CPU, až 96 v zostave EPYC od AMD. Môžete tiež získať GPU s schopnejšími prepojeniami a viac VRAM. Na jadrá CPU však ide veľa peňazí, najmä vo svetoch HPC ( High-Performance Computing ), Hyperscaler a Supercomputing. Čo teda robiť, ak potrebujete viac ako 96 jadier v jednom počítači? Samozrejme pridajte viac CPU.

Základné dosky s viacerými zásuvkami

Samozrejme, nemôžete len tak nahodiť druhý CPU na starú základnú dosku; nebolo by kam ísť. Potrebujete špecifický hardvér. AMD podporuje možnosť umiestniť dva ich serverové procesory EPYC na rovnakú základnú dosku. To ponúka celkom 192 jadier alebo 384 vlákien. Najnovšie serverové procesory Intel dosahovali maximálne 40 jadier, hoci predchádzajúca generácia obsahovala 56-jadrový model. Intel však podporuje až 8 CPU na jednej základnej doske. To je 320 alebo 448 jadier a 640 alebo 896 vlákien. Aj keď je to príliš veľa na kontrolu Instagramu, niektoré pracovné zaťaženia môžu využiť všetku túto konskú silu.

Problém pochádza z pamäte. Štyri veci vo všeobecnosti obmedzujú CPU. Prvým je nedostatok vecí, ktoré treba robiť; niekedy sa CPU jednoducho nenačíta. Ďalej máte energiu, len toľko energie, ktorú môžete odobrať, než začnete poškodzovať CPU, a limity sú zavedené, aby sa zabezpečilo, že CPU nebude vystavené riziku vyhorenia pri plnom zaťažení. Máte tiež úzko súvisiaci teplotný tlak, čím viac energie používate, tým viac tepla vytvárate a musíte ho rozptýliť; prehriatie je rovnako zlé ako príliš veľa energie, keď sa veci začnú topiť. Ďalším obmedzením je prístup do pamäte.

CPU zvyčajne potrebuje veľa údajov na vykonanie veľkého množstva spracovania. To všetko je uložené v RAM. Bohužiaľ, RAM je v porovnaní s CPU dosť pomalá. To ho môže nechať „veky“ nečinné, kým získa údaje, ktoré potrebuje na prevádzku. Cache CPU veľmi pomáha, ale je taká malá, že nedokáže pokryť všetko a je potrebné pristupovať k hlavnej pamäti.

Latencia pamäte

Aby sa minimalizoval účinok pomalosti RAM, je fyzicky umiestnená čo najbližšie k CPU. To je dôvod, prečo je RAM vždy umiestnená priamo vedľa pätice CPU na základnej doske. Čo sa však stane, ak máte na jednej základnej doske viacero procesorov? Potom existuje iný prístupový čas pre CPU na prístup k svojej pamäti v porovnaní s pamäťou vedľa druhej. "Ach nie," môžete povedať, "niektorá pamäť je trochu pomalšia." Ale toto je skutočný problém, ktorý môže mať prekvapivo hlboký vplyv na výkon. Tento koncept sa nazýva Non-Uniform Memory Access alebo NUMA.

NUMA zahŕňa poskytnutie mechanizmu pre operačný systém, aby pochopil, že hoci má prístup k celej pamäti, niektoré časti sú pre určité veci uprednostňované pred ostatnými. Tam, kde je to možné, OS potom ukladá dáta pre úlohy bežiace na CPU1 v RAM priamo vedľa CPU1. Podobne údaje potrebné pre úlohu spustenú na CPU2 sú uložené v RAM priamo vedľa CPU2. Samozrejme, s obmedzenou kapacitou pamäte RAM a masívnymi súbormi údajov nie je vždy možné zostať v týchto hraniciach. Napriek tomu sa vynakladá maximálne úsilie a má významný vplyv na výkon.

Prístup do pamäte cez jeden kanál je tiež sekvenčný. To znamená, že keď sa dva rôzne CPU pokúšajú o prístup k údajom na rovnakom kanáli, jeden je priamo pripojený k DIMM a druhý NUMA hop preč, druhá požiadavka nielenže musí čakať nečinne na svoju požiadavku, ale aj na požiadavku druhej. procesor. Údaje by preto mali byť vždy, keď je to možné, uložené v pamäti RAM priamo vedľa procesora, ktorý ich bude potrebovať.

Záver

NUMA znamená Non-Uniform Memory Access. Je to termín používaný v počítačových systémoch s viacerými fyzickými CPU. Vzťahuje sa na skutočnosť, že jeden CPU bude mať inú latenciu pamäte ako RAM, ktorá ho priamo obklopuje, v porovnaní s RAM obklopujúcou iný CPU. Extra latencia znižuje výkon systému viacerými spôsobmi. NUMA je spôsob, ako informovať operačný systém, že je to tak.

Umožňuje optimalizovať využitie pamäte a dátovú lokalitu na základe CPU, ktoré dáta potrebuje. Ak je to možné, všetky údaje pre procesy bežiace na CPU sú uložené v RAM priamo pripojenej k tomuto CPU. Keď lokálna RAM nemá dostatočnú kapacitu, dáta sa môžu preliať do RAM okolo iných CPU. Tam, kde je to možné, je počet skokov NUMA minimalizovaný, aby sa znížila latencia.