Mikä on NUMA?

Jos raha ei ole ongelma, voit ostaa kaikki kalleimmat kuluttajatietokoneiden osat ja rakentaa mahtavan tietokoneen tarkistaaksesi sähköpostisi ja selataksesi sosiaalista mediaa. Useimmat ihmiset eivät tietenkään osta asioita tällä tavalla; se ei ole edes se, kuinka rikkaat ihmiset ostavat asioita, koska se ei ole erinomainen tapa pysyä rikkaana . Sen sijaan useimmat ihmiset katsovat, mitä he haluavat tehdä tietokoneella, ja löytävät sitten tietokoneen, jossa on sopiva laitteisto.

Kotimarkkinoilla on valinnanvaraa kohtuullisesti, mutta kun pääset työasema- ja palvelinmarkkinoille, tarjolla on vielä tehokkaampia vaihtoehtoja vieläkin suuremmalla rahalla. Esimerkiksi paras tietokone, jonka voit rakentaa kotona, tukee 16 ydintä ( tai 24, jos lasketaan Intelin tehokkuusytimet ). Saat myös tehokkaan GPU:n. Teknisesti voit saada useita tehokkaita GPU:ita, mutta et voi käyttää niitä yhdessä, koska SLI/NVLINK on käytännössä kuollut.

Palvelin- ja työasemamarkkinoilla voit saada paljon enemmän ydintä prosessorissa, jopa 96 AMD:n EPYC-kokoonpanossa. Voit myös hankkia grafiikkasuoritteita, joissa on tehokkaammat liitännät ja enemmän VRAM-muistia. Prosessoriytimiin menee kuitenkin paljon rahaa, erityisesti HPC- ( High-Performance Computing ), Hyperscaler- ja Supercomputing-maailmoissa. Joten mitä teet, jos tarvitset enemmän kuin 96 ydintä yhdessä tietokoneessa? Lisää prosessoreita tietysti.

Multi-Socket-emolevyt

Tietenkään et voi vain lyödä toista CPU:ta millekään vanhalle emolevylle; sillä ei olisi minne mennä. Tarvitset tietyn laitteiston. AMD tukee mahdollisuutta sijoittaa kaksi EPYC-palvelinsuoritinta samalle emolevylle. Se tarjoaa yhteensä 192 ydintä tai 384 säiettä. Intelin uusimmat palvelinprosessorit maksimissaan 40 ydintä, vaikka edellisessä sukupolvessa oli 56-ytiminen malli. Intel tukee kuitenkin jopa 8 prosessoria yhdellä emolevyllä. Se on 320 tai 448 ydintä ja 640 tai 896 säiettä. Vaikka tämä on liikaa Instagramin tarkistamiseen, jotkin työmäärät voivat käyttää kaikkia näitä hevosvoimia.

Ongelma tulee muistista. Neljä asiaa rajoittaa yleensä suorittimia. Ensimmäinen on asioiden puute; joskus CPU ei vain lataudu. Seuraavaksi sinulla on virtaa, voit käyttää vain niin paljon tehoa, ennen kuin alat vahingoittaa prosessoria, ja rajat ovat olemassa sen varmistamiseksi, että suoritin ei ole vaarassa palaa loppuun täydellä kuormituksella. Sinulla on myös läheisesti liittyvä lämpötilapaine, mitä enemmän käytät tehoa, sitä enemmän lämpöä tuot ja joudut haihduttamaan; ylikuumeneminen on yhtä paha asia kuin liika teho, kun asiat alkavat sulaa. Toinen rajoitus on muistin käyttö.

Prosessori tarvitsee yleensä paljon dataa suorittaakseen paljon käsittelyä. Kaikki tämä on tallennettu RAM-muistiin. Valitettavasti RAM on melko hidas verrattuna suorittimeen. Tämä voi jättää sen käyttämättömäksi "iän ajaksi", ennen kuin se saa tarvitsemansa tiedot. CPU-välimuisti auttaa paljon, mutta se on niin pieni, ettei se kata kaikkea, ja päämuistia on käytettävä.

Muistin latenssi

RAM-muistin hitauden minimoimiseksi se sijoitetaan fyysisesti mahdollisimman lähelle prosessoria. Tästä syystä RAM-muisti sijaitsee aina suoraan emolevyn CPU-liitännän vieressä. Mutta mitä tapahtuu, jos sinulla on useita suorittimia yhdellä emolevyllä? Sitten CPU:lla on eri pääsyaika käyttää muistiaan verrattuna toisen muistiin. "Voi ei", saatat sanoa, "jotkin muistit ovat hieman hitaampia." Mutta tämä on todellinen ongelma, jolla voi olla yllättävän syvä vaikutus suorituskykyyn. Tätä käsitettä kutsutaan nimellä Non-Uniform Memory Access tai NUMA.

NUMA sisältää mekanismin, jonka avulla käyttöjärjestelmä ymmärtää, että vaikka se voi käyttää kaikkea muistia, jotkin osat ovat tietyissä asioissa paremmat kuin toiset. Mikäli mahdollista, käyttöjärjestelmä tallentaa sitten tiedot suorittimella 1 suoritettavista tehtävistä RAM-muistiin suoraan CPU1:n viereen. Vastaavasti CPU2:lla suoritettavaa tehtävää varten tarvittavat tiedot tallennetaan RAM-muistiin suoraan CPU2:n viereen. Rajoitetun RAM-kapasiteetin ja massiivisten tietojoukkojen vuoksi pysyminen näissä rajoissa ei tietenkään aina ole mahdollista. Silti parhaansa tehdään ja niillä on merkittävä vaikutus suorituskykyyn.

Muistin käyttö yhden kanavan kautta on myös peräkkäinen. Tämä tarkoittaa, että kun kaksi eri prosessoria yrittää päästä käsiksi samalla kanavalla olevaan dataan, joista toinen on kytketty suoraan DIMM-muistiin ja toinen NUMA hyppää pois, toisen pyynnön ei tarvitse vain odottaa valmiustilassa pyyntöään, vaan myös toisen pyyntöä. prosessori. Näin ollen tiedot tulisi aina kun mahdollista tallentaa RAM-muistiin suoraan sitä tarvitsevan prosessorin viereen.

Johtopäätös

NUMA on lyhenne sanoista Non-Uniform Memory Access. Sitä käytetään tietokonejärjestelmissä, joissa on useita fyysisiä suorittimia. Se viittaa siihen, että yhdellä suorittimella on erilainen muistilatenssi kuin sitä ympäröivällä RAM-muistilla verrattuna toista suoritinta ympäröivään RAM-muistiin. Ylimääräinen latenssi heikentää järjestelmän suorituskykyä monin tavoin. NUMA on tapa ilmoittaa käyttöjärjestelmälle, että näin on.

Sen avulla se voi optimoida muistin käytön ja tietojen sijainnin dataa tarvitsevan CPU:n perusteella. Mikäli mahdollista, kaikki suorittimella suoritettavien prosessien tiedot tallennetaan suoraan kyseiseen prosessoriin liitettyyn RAM-muistiin. Kun paikallisessa RAM-muistissa ei ole tarpeeksi kapasiteettia, tietoja voi levitä muiden suoritinten ympärillä olevaan RAM-muistiin. Jälleen mahdollisuuksien mukaan NUMA-hyppyjen määrä minimoidaan latenssin vähentämiseksi.