Què és NUMA?

Si els diners no són un problema, podeu comprar totes les peces d'ordinador de consum més cares i construir un ordinador potent per consultar el vostre correu electrònic i desplaçar-vos per les xarxes socials. Per descomptat, no és així com la majoria de la gent compra coses; ni tan sols és com la gent rica compra coses, ja que no és una manera excel·lent de mantenir-se ric. En canvi, la majoria de la gent mira què vol fer amb un ordinador i després troba un ordinador que tingui el maquinari adequat.

Al mercat domèstic, hi ha una quantitat decent d'elecció, però un cop arribeu al mercat de l'estació de treball i del servidor, hi ha opcions encara més potents per encara més diners. Per exemple, el millor ordinador que podeu construir a casa admet 16 nuclis ( o 24 si compteu amb els nuclis d'eficiència d'Intel ). També podeu obtenir una GPU potent. Tècnicament, podeu obtenir diverses GPU potents, però no les podeu utilitzar juntes, ja que SLI/NVLINK està essencialment mort.

Al mercat de servidors i estacions de treball, podeu obtenir molts més nuclis en una CPU, fins a 96 a la línia EPYC d'AMD. També podeu obtenir GPU amb interconnexions més capaços i més VRAM. Els nuclis de CPU, però, són on es destinen molts diners, especialment als mons HPC ( Informàtica d'alt rendiment ), Hyperscaler i Supercomputing. Aleshores, què feu si necessiteu més de 96 nuclis en un ordinador? Afegiu més CPU, òbviament.

Plaques base multisocket

Per descomptat, no podeu posar una segona CPU a qualsevol placa base antiga; no hi hauria on anar. Necessites un maquinari específic. AMD admet la possibilitat que dues de les CPU del seu servidor EPYC es col·loquin a la mateixa placa base. Això ofereix un total de 192 nuclis o 384 fils. Les darreres CPU de servidor d'Intel van arribar al màxim de 40 nuclis, tot i que la generació anterior comptava amb un model de 56 nuclis. Intel, però, admet fins a 8 CPU en una sola placa base. Això són 320 o 448 nuclis i 640 o 896 fils. Tot i que això és excessiu per comprovar Instagram, algunes càrregues de treball poden utilitzar tota aquesta potència.

El problema ve de la memòria. Quatre coses generalment limiten les CPU. El primer és la manca de coses per fer; de vegades, la CPU no està carregada. A continuació, tens potència, només hi ha tanta potència que pots extreure abans de començar a danyar la CPU i hi ha límits per assegurar-te que la CPU no corre el risc de cremar-se quan està a plena càrrega. També teniu la pressió de temperatura estretament relacionada, com més potència utilitzeu, més calor genereu i heu de dissipar; el sobreescalfament és tan dolent com massa potència a mesura que les coses es comencen a fondre. L'altra limitació és l'accés a la memòria.

Una CPU normalment necessita moltes dades per dur a terme molts processaments. Tot això s'emmagatzema a la memòria RAM. Malauradament, la memòria RAM és bastant lenta en comparació amb una CPU. Això pot deixar-lo inactiu durant "edats" abans d'obtenir les dades que necessita per funcionar. La memòria cau de la CPU ajuda molt, però és tan petita que no ho pot cobrir tot i cal accedir a la memòria principal.

Latència de memòria

Per minimitzar l'efecte que la RAM sigui lenta, es col·loca físicament el més a prop possible de la CPU. És per això que la memòria RAM sempre es troba directament al costat del sòcol de la CPU d'una placa base. Però, què passa si teniu diverses CPU en una sola placa base? Aleshores hi ha un temps d'accés diferent perquè una CPU accedeixi a la seva memòria en comparació amb la memòria al costat d'una altra. "Oh, no", podríeu dir, "alguna memòria és una mica més lenta". Però aquest és un problema real que pot tenir un efecte sorprenentment profund en el rendiment. Aquest concepte s'anomena Accés a la memòria no uniforme o NUMA.

NUMA implica proporcionar un mecanisme perquè el sistema operatiu entengui que, tot i que pot accedir a tota la memòria, es prefereixen algunes parts per a determinades coses sobre d'altres. Quan sigui possible, el sistema operatiu emmagatzema les dades de les tasques que s'executen a la CPU1 a la memòria RAM directament al costat de la CPU1. De la mateixa manera, les dades necessàries per a una tasca que s'executen a la CPU2 s'emmagatzemen a la memòria RAM directament al costat de la CPU2. Per descomptat, amb capacitats de RAM limitades i conjunts de dades massius, mantenir-se dins d'aquests límits no sempre és possible. Tot i així, es fan els millors esforços i tenen un impacte significatiu en el rendiment.

L'accés a la memòria a través d'un sol canal també és seqüencial. Això vol dir que quan dues CPU diferents intenten accedir a les dades del mateix canal, una connectada directament al DIMM i l'altra NUMA s'allunya, la segona sol·licitud no només ha d'esperar, inactiva, la seva sol·licitud sinó també la sol·licitud de l'altra. processador. Com a tal, sempre que sigui possible, les dades s'han d'emmagatzemar a la memòria RAM directament al costat de la CPU que la necessitarà.

Conclusió

NUMA significa Accés a la memòria no uniforme. És un terme utilitzat en sistemes informàtics amb múltiples CPU físiques. Es refereix al fet que una CPU tindrà una latència de memòria diferent a la RAM que l'envolta directament en comparació amb la RAM que envolta una altra CPU. La latència addicional disminueix el rendiment del sistema de múltiples maneres. NUMA és una manera d'informar el sistema operatiu que aquest és el cas.

Li permet optimitzar l'ús de la memòria i la localitat de les dades en funció de la CPU que necessita les dades. Quan sigui possible, totes les dades dels processos que s'executen en una CPU s'emmagatzemen a la memòria RAM directament connectada a aquesta CPU. Quan la memòria RAM local no té prou capacitat, les dades es poden vessar a la memòria RAM al voltant d'altres CPU. De nou, sempre que sigui possible, el nombre de salts NUMA es minimitza per reduir la latència.