Що таке NUMA?

Якщо гроші не проблема, ви можете придбати всі найдорожчі споживчі запчастини для ПК і створити потужний ПК, щоб перевіряти електронну пошту та гортати соціальні мережі. Звичайно, це не те, як більшість людей купує речі; справа навіть не в тому, наскільки багаті люди купують речі, оскільки це не чудовий спосіб залишатися багатим . Натомість більшість людей шукають, що вони хочуть робити з комп’ютером, а потім знаходять комп’ютер із відповідним обладнанням.

На домашньому ринку є пристойний вибір, але як тільки ви потрапите на ринок робочих станцій і серверів, з’являться ще потужніші варіанти за ще більше грошей. Наприклад, найкращий ПК, який ви можете створити вдома, підтримує 16 ядер ( або 24, якщо врахувати ефективні ядра Intel ). Ви також можете отримати потужний графічний процесор. Технічно ви можете отримати кілька потужних графічних процесорів, але ви не можете використовувати їх разом, оскільки SLI/NVLINK фактично мертвий.

На ринку серверів і робочих станцій ви можете отримати набагато більше ядер у ЦП, до 96 у лінійці AMD EPYC. Ви також можете придбати графічні процесори з більш потужними з’єднаннями та більшою кількістю VRAM. Однак на процесорні ядра йде багато грошей, особливо в світі HPC ( високопродуктивних обчислень ), Hyperscaler і Supercomputing. Отже, що робити, якщо вам потрібно більше 96 ядер в одному комп'ютері? Додайте більше ЦП, очевидно.

Багатосокетні материнські плати

Звичайно, ви не можете просто поставити другий процесор на стару материнську плату; не було б куди подітися. Вам потрібне спеціальне обладнання. AMD підтримує можливість розміщення двох своїх серверних ЦП EPYC на одній материнській платі. Це пропонує загалом 192 ядра або 384 потоки. Найновіші серверні процесори Intel досягли 40 ядер, хоча попереднє покоління мало 56-ядерну модель. Однак Intel підтримує до 8 ЦП на одній материнській платі. Це 320 або 448 ядер і 640 або 896 потоків. Хоча це надмірно для перевірки Instagram, деякі робочі навантаження можуть використовувати всю цю потужність.

Проблема виникає через пам'ять. Чотири речі зазвичай обмежують процесори. Перший – відсутність справ; іноді процесор просто не завантажується. Далі, у вас є потужність, ви можете споживати лише стільки енергії, перш ніж почнете пошкоджувати ЦП, і встановлені обмеження, щоб ЦП не ризикував перегоріти під час повного навантаження. Ви також маєте тісно пов’язаний температурний тиск: чим більше енергії ви використовуєте, тим більше тепла ви генеруєте та маєте розсіяти; перегрів так само шкідливий, як і занадто велика потужність, оскільки речі починають танути. Іншим обмеженням є доступ до пам'яті.

ЦП зазвичай потребує великої кількості даних, щоб виконати велику кількість обробки. Все це зберігається в оперативній пам'яті. На жаль, оперативна пам'ять досить повільна порівняно з процесором. Це може залишити його бездіяльним протягом багатьох років, перш ніж він отримає дані, необхідні для роботи. Кеш центрального процесора дуже допомагає, але він настільки малий, що не може охопити все, і потрібен доступ до основної пам’яті.

Затримка пам'яті

Щоб мінімізувати ефект повільної роботи оперативної пам’яті, її фізично розміщують якомога ближче до ЦП. Ось чому оперативна пам’ять завжди розташована безпосередньо біля гнізда ЦП на материнській платі. Але що станеться, якщо на одній материнській платі буде кілька ЦП? Тоді існує інший час доступу для ЦП до своєї пам’яті порівняно з пам’яттю поруч з іншим. «О ні, — можете сказати ви, — деякі пам’яті працюють повільніше». Але це актуальна проблема, яка може мати напрочуд глибокий вплив на продуктивність. Ця концепція називається нерівномірним доступом до пам’яті, або NUMA.

NUMA передбачає надання механізму для розуміння операційною системою того, що, хоча вона може отримати доступ до всієї пам’яті, деякі частини є кращими для певних речей над іншими. Якщо це можливо, ОС потім зберігає дані для завдань, що виконуються на CPU1, в оперативній пам’яті безпосередньо поруч із CPU1. Подібним чином дані, необхідні для завдання, що виконується на CPU2, зберігаються в оперативній пам’яті безпосередньо поруч із CPU2. Звичайно, з обмеженою ємністю оперативної пам’яті та масивними наборами даних залишатися в цих межах не завжди можливо. Тим не менш, ми докладаємо всіх зусиль, які значно впливають на продуктивність.

Доступ до пам'яті через один канал також є послідовним. Це означає, що коли два різних процесори намагаються отримати доступ до даних на одному каналі, один безпосередньо підключений до DIMM, а інший NUMA скачок, другий запит не тільки повинен чекати, неактивний, на свій запит, але також і на запит іншого. процесор. Таким чином, якщо це можливо, дані повинні зберігатися в оперативній пам’яті безпосередньо поруч із ЦП, якому вони потрібні.

Висновок

NUMA означає нерівномірний доступ до пам’яті. Це термін, який використовується в комп’ютерних системах з кількома фізичними процесорами. Це стосується того факту, що один ЦП матиме іншу затримку пам’яті для оперативної пам’яті, яка безпосередньо його оточує, порівняно з оперативною пам’яттю, що оточує інший ЦП. Додаткова затримка знижує продуктивність системи різними способами. NUMA — це спосіб повідомити операційній системі, що це так.

Це дозволяє оптимізувати використання пам’яті та локалізацію даних залежно від ЦП, якому потрібні дані. Там, де це можливо, усі дані для процесів, що виконуються на ЦП, зберігаються в оперативній пам’яті, безпосередньо підключеній до ЦП. Коли локальна оперативна пам’ять не має достатньої ємності, дані можуть перетікати в оперативну пам’ять навколо інших процесорів. Знову ж таки, де це можливо, кількість стрибків NUMA мінімізується, щоб зменшити затримку.