Какво е NUMA?

Ако парите не са проблем, можете да купите всички най-скъпи части за потребителски компютър и да изградите мощен компютър, за да проверявате имейла си и да превъртате социалните медии. Разбира се, това не е начинът, по който повечето хора купуват неща; дори не е важно колко богатите хора купуват неща, тъй като това не е отличен начин да останеш богат. Вместо това повечето хора гледат какво искат да правят с компютър и след това намират компютър с подходящ хардуер.

На вътрешния пазар има приличен избор, но след като стигнете до пазара на работни станции и сървъри, има някои още по-мощни опции за още повече пари. Например, най-добрият компютър, който можете да изградите у дома, поддържа 16 ядра ( или 24, ако броите ефективните ядра на Intel ). Можете също така да получите мощен графичен процесор. Технически можете да получите няколко мощни графични процесора, но не можете да ги използвате заедно, тъй като SLI/NVLINK по същество е мъртъв.

На пазара за сървъри и работни станции можете да получите много повече ядра в CPU, до 96 в гамата EPYC на AMD. Можете също така да получите GPU с по-мощни връзки и повече VRAM. CPU ядрата обаче са мястото, където отиват много пари, особено в световете на HPC ( High-Performance Computing ), Hyperscaler и Supercomputing. И така, какво правите, ако имате нужда от повече от 96 ядра в един компютър? Добавете повече процесори, очевидно.

Дънни платки с множество гнезда

Разбира се, не можете просто да поставите втори процесор на която и да е стара дънна платка; нямаше къде да отиде. Имате нужда от специфичен хардуер. AMD поддържа възможността два от техните EPYC сървърни процесори да бъдат поставени на една и съща дънна платка. Това предлага общо 192 ядра или 384 нишки. Най-новите сървърни процесори на Intel достигнаха максимум 40 ядра, въпреки че предишното поколение включваше 56-ядрен модел. Intel обаче поддържа до 8 процесора на една дънна платка. Това са 320 или 448 ядра и 640 или 896 нишки. Въпреки че това е прекомерно за проверка на Instagram, някои работни натоварвания могат да използват всички тези конски сили.

Проблемът идва от паметта. Четири неща обикновено ограничават процесорите. Първият е липсата на неща за вършене; понякога процесорът просто не е зареден. След това имате мощност, има толкова много мощност, която можете да черпите, преди да започнете да увреждате процесора, и има ограничения, за да се гарантира, че процесорът няма риск от изгаряне, когато е под пълно натоварване. Имате и тясно свързаното температурно налягане, колкото повече мощност използвате, толкова повече топлина генерирате и трябва да разсеете; прегряването е също толкова лошо, колкото и твърде много мощност, тъй като нещата започват да се топят. Другото ограничение е достъпът до паметта.

Процесорът обикновено се нуждае от много данни, за да извърши много обработка. Всичко това се съхранява в RAM. За съжаление RAM паметта е доста бавна в сравнение с процесора. Това може да го остави неактивен в продължение на „векове“, преди да получи данните, от които се нуждае, за да работи. Кеша на процесора помага много, но е толкова малък, че не може да покрие всичко, а основната памет трябва да бъде достъпна.

Латентност на паметта

За да се сведе до минимум ефектът от бавната RAM памет, тя се поставя физически възможно най-близо до процесора. Ето защо RAM винаги се намира точно до гнездото на процесора на дънната платка. Но какво се случва, ако имате няколко процесора на една дънна платка? След това има различно време за достъп за процесора за достъп до неговата памет в сравнение с паметта до друг. „О, не“, може да кажете, „някои памети са малко по-бавни.“ Но това е действителен проблем, който може да има изненадващо дълбок ефект върху производителността. Тази концепция се нарича неравномерен достъп до паметта или NUMA.

NUMA включва предоставяне на механизъм за операционната система, за да разбере, че въпреки че има достъп до цялата памет, някои части са предпочитани за определени неща пред други. Където е възможно, операционната система след това съхранява данни за задачи, изпълнявани на CPU1 в RAM паметта директно до CPU1. По същия начин данните, необходими за задача, изпълнявана на CPU2, се съхраняват в RAM директно до CPU2. Разбира се, с ограничен капацитет на RAM и масивни набори от данни, оставането в тези граници не винаги е възможно. Все пак се полагат максимални усилия и това оказва значително влияние върху производителността.

Достъпът до паметта през един канал също е последователен. Това означава, че когато два различни процесора се опитват да получат достъп до данни на един и същи канал, единият директно свързан към DIMM, а другият NUMA отскача, втората заявка не само трябва да чака, бездействаща, за своята заявка, но и заявката на другата процесор. Като такива, когато е възможно, данните трябва да се съхраняват в RAM паметта непосредствено до процесора, който ще се нуждае от тях.

Заключение

NUMA означава неравномерен достъп до паметта. Това е термин, използван в компютърни системи с множество физически процесори. Отнася се до факта, че един CPU ще има различно забавяне на паметта спрямо RAM, която го заобикаля директно, в сравнение с RAM, заобикаляща друг CPU. Допълнителното забавяне намалява производителността на системата по много начини. NUMA е начин да информирате операционната система, че това е така.

Позволява му да оптимизира използването на паметта и местоположението на данните въз основа на процесора, който се нуждае от данните. Където е възможно, всички данни за процесите, изпълнявани на процесора, се съхраняват в RAM, директно свързан към този процесор. Когато локалната RAM няма достатъчно капацитет, данните могат да се прехвърлят в RAM около други процесори. Отново, където е възможно, броят на NUMA скокове е сведен до минимум, за да се намали латентността.