Mi az a NUMA?

Ha a pénz nem probléma, megvásárolhatja a legdrágább fogyasztói PC-alkatrészeket, és építhet egy hatalmas számítógépet, amellyel ellenőrizheti e-mailjeit és görgetheti a közösségi médiát. Természetesen a legtöbb ember nem így vásárol dolgokat; nem is az, hogy a gazdagok hogyan vásárolnak dolgokat, mivel ez nem egy kiváló módja annak, hogy gazdagok maradjanak . Ehelyett a legtöbben megnézik, mit akarnak csinálni egy számítógéppel, majd találnak egy megfelelő hardverrel rendelkező számítógépet.

Az otthoni piacon tisztességes választék áll rendelkezésre, de ha egyszer eljutunk a munkaállomások és szerverek piacára, akkor még több pénzért van néhány még hatékonyabb lehetőség. Például a legjobb otthoni számítógép 16 magot támogat ( vagy 24 magot, ha az Intel hatékonysági magjait számoljuk ). Erős GPU-t is kaphat. Technikailag több nagy teljesítményű GPU-t is kaphat, de nem használhatja őket együtt, mivel az SLI/NVLINK lényegében halott.

A szerverek és munkaállomások piacán sokkal több magot kaphat egy CPU-ban, akár 96-ot is az AMD EPYC termékcsaládjában. Kaphat GPU-kat is több képességű összeköttetéssel és több VRAM-mal. A CPU magokra azonban sok pénz megy el, különösen a HPC ( High-Performance Computing ), a Hyperscaler és a Supercomputing világában. Tehát mi a teendő, ha több mint 96 magra van szüksége egy számítógépen? Nyilván adjunk hozzá több CPU-t.

Multi-Socket alaplapok

Természetesen egyetlen régi alaplapra sem lehet csak úgy felpofozni egy második CPU-t; nem lenne hova mennie. Speciális hardverre van szüksége. Az AMD támogatja azt a lehetőséget, hogy két EPYC szerver CPU-ja ugyanazon az alaplapon legyen. Ez összesen 192 magot vagy 384 szálat kínál. Az Intel legújabb szerver-processzorai 40 magot tettek ki, bár az előző generáció 56 magos modellt tartalmazott. Az Intel azonban akár 8 CPU-t is támogat egyetlen alaplapon. Ez 320 vagy 448 mag és 640 vagy 896 szál. Bár ez túlzásba esik az Instagram ellenőrzéséhez, bizonyos munkaterhelések kihasználhatják ezt a lóerőt.

A probléma a memóriából származik. Négy dolog korlátozza általában a CPU-kat. Az első a tennivalók hiánya; néha a CPU nincs betöltve. Következő, van energiája, csak annyi energiát tud felvenni, mielőtt károsítaná a CPU-t, és korlátok vannak érvényben annak biztosítására, hogy a CPU-t ne fenyegesse a kiégés veszélye teljes terhelés alatt. A hőmérsékleti nyomás is szorosan összefügg, minél több energiát használ, annál több hőt termel, és annál több hőt kell elvezetnie; a túlmelegedés ugyanolyan rossz, mint a túl sok energia, amikor a dolgok elkezdenek olvadni. A másik korlátozás a memória hozzáférés.

Egy CPU-nak általában sok adatra van szüksége a sok feldolgozás elvégzéséhez. Mindezt a RAM tárolja. Sajnos a RAM elég lassú a CPU-hoz képest. Ez „korokig” tétlen maradhat, mielőtt megkapja a működéséhez szükséges adatokat. A CPU gyorsítótár sokat segít, de olyan kicsi, hogy nem tud mindent lefedni, és a fő memóriát kell elérni.

Memória késleltetés

A RAM lassúságának minimalizálása érdekében fizikailag a lehető legközelebb kell elhelyezni a CPU-hoz. Ez az oka annak, hogy a RAM mindig közvetlenül a CPU-foglalat mellett található az alaplapon. De mi történik, ha több CPU van egyetlen alaplapon? Ezután a CPU-nak más hozzáférési ideje van a memóriájához való hozzáféréshez, mint a másik memória számára. „Ó, nem” – mondhatnád – „egyes memória kissé lassabb.” De ez egy tényleges probléma, amely meglepően mély hatással lehet a teljesítményre. Ezt a koncepciót Non-Uniform Memory Accessnek vagy NUMA-nak hívják.

A NUMA egy olyan mechanizmust biztosít az operációs rendszer számára, amely megérti, hogy bár az összes memóriához hozzáfér, bizonyos részek bizonyos dolgokhoz előnyben részesítenek másokkal szemben. Ahol lehetséges, az operációs rendszer ezután a CPU1-en futó feladatok adatait a RAM-ban közvetlenül a CPU1 mellett tárolja. Hasonlóképpen, a CPU2-n futó feladathoz szükséges adatok a RAM-ban tárolódnak közvetlenül a CPU2 mellett. Természetesen korlátozott RAM-kapacitás és hatalmas adathalmaz mellett nem mindig lehetséges ezeken a határokon belül maradni. Ennek ellenére minden erőfeszítést megtesznek, és ez jelentős hatással van a teljesítményre.

Az egyetlen csatornán keresztüli memóriahozzáférés szintén szekvenciális. Ez azt jelenti, hogy amikor két különböző CPU ugyanazon a csatornán próbál hozzáférni az adatokhoz, az egyik közvetlenül a DIMM-hez kapcsolódik, a másik pedig NUMA ugrással távolodik, akkor a második kérésnek nem csak a kérésére kell várnia, hanem a másik kérésére is. processzor. Ennek megfelelően, ahol csak lehetséges, az adatokat a RAM-ban kell tárolni közvetlenül a CPU mellett, amelynek szüksége lesz rá.

Következtetés

A NUMA a Non-Uniform Memory Access rövidítése. Több fizikai CPU-val rendelkező számítógépes rendszerekben használatos kifejezés. Arra a tényre utal, hogy az egyik CPU memória késleltetése eltér a közvetlenül körülvevő RAM-tól, mint a másik CPU-t körülvevő RAM. Az extra késleltetés több szempontból is csökkenti a rendszer teljesítményét. A NUMA egy módja annak, hogy tájékoztassuk az operációs rendszert, hogy ez a helyzet.

Lehetővé teszi a memóriahasználat és az adatok helyének optimalizálását az adatokra igénylő CPU alapján. Ahol lehetséges, a CPU-n futó folyamatok összes adata a közvetlenül a CPU-hoz csatlakoztatott RAM-ban kerül tárolásra. Ha a helyi RAM nem rendelkezik elegendő kapacitással, az adatok átkerülhetnek a többi CPU körüli RAM-ba. Ahol lehetséges, a NUMA ugrások számát minimalizáljuk a késleltetés csökkentése érdekében.