Que é NUMA?

Se o diñeiro non é un problema, podes mercar todas as pezas máis caras do PC de consumo e construír un PC poderoso para consultar o teu correo electrónico e desprazarte polas redes sociais. Por suposto, non é así como a maioría da xente compra cousas; nin sequera é como os ricos compran cousas, xa que non é unha excelente forma de manterse ricos. Pola contra, a maioría da xente mira o que quere facer cun ordenador e despois atopa un ordenador que teña o hardware axeitado.

No mercado doméstico, hai unha cantidade decente de opcións, pero unha vez que chegue ao mercado de estacións de traballo e servidores, hai algunhas opcións aínda máis potentes por aínda máis diñeiro. Por exemplo, o mellor PC que podes construír na casa admite 16 núcleos ( ou 24 se contas os núcleos de eficiencia de Intel ). Tamén podes obter unha GPU potente. Tecnicamente podes obter varias GPU potentes, pero non podes usalas xuntos xa que SLI/NVLINK está esencialmente morto.

No mercado de servidores e estacións de traballo, podes obter moitos máis núcleos nunha CPU, ata 96 na liña EPYC de AMD. Tamén podes obter GPU con interconexións máis capaces e máis VRAM. Os núcleos de CPU, porén, son onde se destina moito diñeiro, especialmente nos mundos HPC ( High-Performance Computing ), Hyperscaler e Supercomputing. Entón, que fas se necesitas máis de 96 núcleos nun ordenador? Engade máis CPU, obviamente.

Placas base multisocket

Por suposto, non podes colocar unha segunda CPU en calquera placa base antiga; non habería onde ir. Necesitas hardware específico. AMD admite a posibilidade de que dúas das súas CPU do servidor EPYC se coloquen na mesma placa base. Isto ofrece un total de 192 núcleos ou 384 fíos. As últimas CPU de servidor de Intel tiñan un máximo de 40 núcleos, aínda que a xeración anterior presentaba un modelo de 56 núcleos. Intel, con todo, admite ata 8 CPU nunha única placa base. Isto é 320 ou 448 núcleos e 640 ou 896 fíos. Aínda que isto é exagerado para comprobar Instagram, algunhas cargas de traballo poden usar toda esta potencia.

O problema vén da memoria. Catro cousas xeralmente limitan as CPU. O primeiro é a falta de cousas que facer; ás veces, a CPU simplemente non está cargada. A continuación, tes enerxía, só hai tanta potencia que podes extraer antes de comezar a danar a CPU e hai límites para garantir que a CPU non corre o risco de queimarse cando está a plena carga. Tamén tes a presión de temperatura estreitamente relacionada, canto máis enerxía utilizas, máis calor xeras e tes que disipar; O sobreenriquecido é tan malo como demasiada potencia xa que as cousas comezan a derreterse. A outra limitación é o acceso á memoria.

Unha CPU normalmente necesita moitos datos para realizar moito procesamento. Todo iso almacénase na memoria RAM. Desafortunadamente, a memoria RAM é bastante lenta en comparación cunha CPU. Isto pode deixalo inactivo durante "idades" antes de obter os datos que necesita para funcionar. A caché da CPU axuda moito, pero é tan pequena que non pode cubrir todo e hai que acceder á memoria principal.

Latencia de memoria

Para minimizar o efecto de que a RAM sexa lenta, colócase fisicamente o máis preto posible da CPU. É por iso que a RAM sempre está situada directamente ao lado do socket da CPU nunha placa base. Pero que pasa se tes varias CPU nunha única placa base? Entón hai un tempo de acceso diferente para que unha CPU acceda á súa memoria en comparación coa memoria situada a carón doutra. "Oh, non", podes dicir, "algunha memoria é un pouco máis lenta". Pero este é un problema real que pode ter un efecto sorprendentemente profundo no rendemento. Este concepto chámase Acceso a memoria non uniforme ou NUMA.

NUMA implica proporcionar un mecanismo para que o sistema operativo comprenda que, aínda que pode acceder a toda a memoria, algunhas partes son preferibles para determinadas cousas sobre outras. Sempre que sexa posible, o sistema operativo almacena os datos das tarefas que se executan na CPU1 na RAM directamente xunto á CPU1. Do mesmo xeito, os datos necesarios para unha tarefa executada na CPU2 gárdanse na RAM directamente xunto á CPU2. Por suposto, con capacidades de memoria RAM limitadas e conxuntos de datos masivos, non sempre é posible manterse dentro destes límites. Aínda así, fanse os mellores esforzos e teñen un impacto significativo no rendemento.

O acceso á memoria a través dunha única canle tamén é secuencial. Isto significa que cando dúas CPU diferentes tentan acceder aos datos na mesma canle, unha conectada directamente ao DIMM e a outra NUMA, a segunda solicitude non só ten que esperar, inactiva, pola súa solicitude senón tamén pola solicitude da outra. procesador. Polo tanto, sempre que sexa posible, os datos deberían almacenarse na memoria RAM directamente xunto á CPU que o necesitará.

Conclusión

NUMA significa Non-Uniform Memory Access. É un termo usado en sistemas informáticos con múltiples CPU físicas. Refírese ao feito de que unha CPU terá unha latencia de memoria diferente á RAM que a rodea directamente en comparación coa RAM que rodea outra CPU. A latencia adicional diminúe o rendemento do sistema de varias maneiras. NUMA é unha forma de informar ao sistema operativo de que este é o caso.

Permítelle optimizar o uso da memoria e a localización dos datos en función da CPU que necesite os datos. Sempre que sexa posible, todos os datos dos procesos que se executan nunha CPU gárdanse na RAM directamente conectada a esa CPU. Cando a memoria RAM local non ten capacidade suficiente, os datos poden derramarse na RAM ao redor doutras CPU. De novo, sempre que sexa posible, o número de saltos NUMA redúcese ao mínimo para reducir a latencia.