Što je NUMA?

Ako novac nije problem, možete kupiti sve najskuplje dijelove osobnog računala i izgraditi moćno računalo za provjeru e-pošte i listanje po društvenim mrežama. Naravno, većina ljudi ne kupuje stvari na ovaj način; nije čak ni koliko bogati ljudi kupuju stvari, jer to nije izvrstan način da ostanete bogati. Umjesto toga, većina ljudi gleda što želi raditi s računalom i zatim pronalazi računalo koje ima odgovarajući hardver.

Na domaćem tržištu postoji pristojna količina izbora, ali kada jednom dođete na tržište radnih stanica i poslužitelja, postoje neke još snažnije opcije za još više novca. Na primjer, najbolje računalo koje možete sastaviti kod kuće podržava 16 jezgri ( ili 24 ako računate Intelove učinkovite jezgre ). Također možete dobiti snažan GPU. Tehnički možete dobiti više moćnih GPU-ova, ali ih ne možete koristiti zajedno jer je SLI/NVLINK u biti mrtav.

Na tržištu poslužitelja i radnih stanica možete dobiti puno više jezgri u CPU-u, do 96 u AMD-ovoj liniji EPYC. Također možete dobiti GPU-ove sa sposobnijim interkonekcijama i više VRAM-a. CPU jezgre su, međutim, mjesto gdje odlazi mnogo novca, posebno u svjetovima HPC ( High-Performance Computing ), Hyperscaler i Supercomputing. Dakle, što učiniti ako trebate više od 96 jezgri u jednom računalu? Dodati više CPU-a, očito.

Matične ploče s više utičnica

Naravno, ne možete jednostavno staviti drugi CPU na bilo koju staru matičnu ploču; ne bi imalo kamo otići. Potreban vam je specifičan hardver. AMD podržava mogućnost postavljanja dva njihova EPYC poslužiteljska CPU-a na istu matičnu ploču. To nudi ukupno 192 jezgre ili 384 niti. Najnoviji Intelovi procesori za poslužitelje imali su najviše 40 jezgri, iako je prethodna generacija imala model s 56 jezgri. Intel, međutim, podržava do 8 CPU-a na jednoj matičnoj ploči. To je 320 ili 448 jezgri i 640 ili 896 niti. Iako je ovo pretjerano za provjeru Instagrama, neka radna opterećenja mogu iskoristiti svu tu snagu.

Problem dolazi iz sjećanja. Četiri stvari općenito ograničavaju CPU. Prvi je nedostatak stvari za raditi; ponekad CPU jednostavno nije učitan. Dalje, imate snagu, postoji samo toliko energije koju možete potrošiti prije nego što počnete oštećivati ​​CPU, a postoje ograničenja kako bi se osiguralo da CPU nije u opasnosti od izgaranja kada je pod punim opterećenjem. Također imate blisko povezan temperaturni tlak, što više energije koristite, to više topline stvarate i morate raspršiti; pregrijavanje je jednako loše kao i previše snage jer se stvari počnu topiti. Drugo ograničenje je pristup memoriji.

CPU obično treba mnogo podataka da izvrši mnogo obrade. Sve je to pohranjeno u RAM-u. Nažalost, RAM je prilično spor u usporedbi s CPU-om. To ga može ostaviti u stanju mirovanja "vjekovima" prije nego što dobije podatke potrebne za rad. CPU cache puno pomaže, ali je toliko mali da ne može pokriti sve, a glavnoj memoriji treba pristupiti.

Latencija memorije

Kako bi se učinak sporosti RAM-a sveo na najmanju moguću mjeru, fizički se postavlja što bliže CPU-u. Zbog toga se RAM uvijek nalazi neposredno uz CPU utičnicu na matičnoj ploči. Ali što se događa ako imate više CPU-a na jednoj matičnoj ploči? Zatim postoji različito vrijeme pristupa CPU-u za pristup svojoj memoriji u usporedbi s memorijom pokraj druge. "O ne", mogli biste reći, "neka su sjećanja malo sporija." Ali ovo je stvarni problem koji može imati iznenađujuće dubok učinak na performanse. Taj se koncept naziva nejednaki pristup memoriji ili NUMA.

NUMA uključuje pružanje mehanizma za operativni sustav da shvati da, iako može pristupiti svoj memoriji, neki dijelovi imaju prednost za određene stvari u odnosu na druge. Gdje je to moguće, OS zatim pohranjuje podatke za zadatke koji se izvode na CPU1 u RAM-u neposredno pored CPU1. Slično, podaci potrebni za zadatak koji se izvodi na CPU2 pohranjuju se u RAM neposredno uz CPU2. Naravno, s ograničenim kapacitetima RAM-a i ogromnim skupovima podataka, ostati unutar ovih ograničenja nije uvijek moguće. Ipak, ulažu se najbolji napori koji imaju značajan utjecaj na izvedbu.

Pristup memoriji preko jednog kanala također je sekvencijalan. To znači da kada dva različita CPU-a pokušaju pristupiti podacima na istom kanalu, jedan je izravno povezan s DIMM-om, a drugi NUMA odskoči, drugi zahtjev ne samo da mora čekati, u stanju mirovanja, na svoj zahtjev, već i na zahtjev drugog. procesor. Kao takvi, gdje god je to moguće, podaci bi trebali biti pohranjeni na RAM-u neposredno uz CPU koji će ih trebati.

Zaključak

NUMA je kratica za nejednaki pristup memoriji. To je izraz koji se koristi u računalnim sustavima s više fizičkih procesora. Odnosi se na činjenicu da će jedan CPU imati različito kašnjenje memorije u odnosu na RAM koji ga izravno okružuje u usporedbi s RAM-om koji okružuje drugi CPU. Dodatna latencija smanjuje performanse sustava na više načina. NUMA je način da obavijestite operativni sustav da je to slučaj.

Omogućuje optimizaciju korištenja memorije i lokalizaciju podataka na temelju CPU-a koji treba podatke. Gdje je to moguće, svi podaci za procese koji se izvode na CPU-u pohranjuju se u RAM koji je izravno priključen na taj CPU. Kada lokalni RAM nema dovoljno kapaciteta, podaci se mogu preliti u RAM oko drugih procesora. Opet gdje je to moguće, broj NUMA skokova je minimiziran kako bi se smanjila latencija.