Τι είναι το NUMA;

Εάν τα χρήματα δεν είναι πρόβλημα, μπορείτε να αγοράσετε όλα τα πιο ακριβά ανταλλακτικά υπολογιστή για καταναλωτές και να φτιάξετε έναν ισχυρό υπολογιστή για να ελέγχετε το email σας και να κάνετε κύλιση στα μέσα κοινωνικής δικτύωσης. Φυσικά, δεν είναι ο τρόπος με τον οποίο οι περισσότεροι άνθρωποι αγοράζουν πράγματα. Δεν είναι καν το πώς οι πλούσιοι αγοράζουν πράγματα, καθώς δεν είναι ένας εξαιρετικός τρόπος για να παραμείνετε πλούσιοι. Αντίθετα, οι περισσότεροι άνθρωποι κοιτάζουν τι θέλουν να κάνουν με έναν υπολογιστή και στη συνέχεια βρίσκουν έναν υπολογιστή που διαθέτει κατάλληλο υλικό.

Στην εγχώρια αγορά, υπάρχει μια αξιοπρεπής ποσότητα επιλογών, αλλά μόλις φτάσετε στην αγορά του σταθμού εργασίας και των διακομιστών, υπάρχουν μερικές ακόμη πιο ισχυρές επιλογές για ακόμη περισσότερα χρήματα. Για παράδειγμα, ο καλύτερος υπολογιστής που μπορείτε να φτιάξετε στο σπίτι υποστηρίζει 16 πυρήνες ( ή 24 αν μετρήσετε τους πυρήνες αποδοτικότητας της Intel ). Μπορείτε επίσης να αποκτήσετε μια ισχυρή GPU. Τεχνικά, μπορείτε να αποκτήσετε πολλές ισχυρές GPU, αλλά δεν μπορείτε να τις χρησιμοποιήσετε μαζί καθώς το SLI/NVLINK είναι ουσιαστικά νεκρό.

Στην αγορά διακομιστών και σταθμών εργασίας, μπορείτε να αποκτήσετε πολύ περισσότερους πυρήνες σε μια CPU, έως και 96 στη σειρά EPYC της AMD. Μπορείτε επίσης να αποκτήσετε GPU με πιο ικανές διασυνδέσεις και περισσότερη VRAM. Ωστόσο, οι πυρήνες της CPU είναι εκεί που πάνε πολλά χρήματα, ειδικά στους κόσμους HPC ( Υψηλής απόδοσης υπολογιστών ), Hyperscaler και Supercomputing. Λοιπόν, τι κάνετε εάν χρειάζεστε περισσότερους από 96 πυρήνες σε έναν υπολογιστή; Προσθέστε περισσότερες CPU, προφανώς.

Μητρικές πλακέτες πολλαπλών υποδοχών

Φυσικά, δεν μπορείτε απλά να χτυπήσετε μια δεύτερη CPU σε οποιαδήποτε παλιά μητρική πλακέτα. δεν θα υπήρχε πουθενά να πάει. Χρειάζεστε συγκεκριμένο υλικό. Η AMD υποστηρίζει τη δυνατότητα δύο από τους επεξεργαστές διακομιστή EPYC της να τοποθετούνται στην ίδια μητρική πλακέτα. Αυτό προσφέρει συνολικά 192 πυρήνες ή 384 νήματα. Οι τελευταίοι επεξεργαστές διακομιστή της Intel είχαν μέγιστη χωρητικότητα 40 πυρήνων, αν και η προηγούμενη γενιά διέθετε ένα μοντέλο 56 πυρήνων. Η Intel, ωστόσο, υποστηρίζει έως και 8 CPU σε μία μόνο μητρική πλακέτα. Αυτό είναι 320 ή 448 πυρήνες και 640 ή 896 νήματα. Αν και αυτό είναι υπερβολικό για τον έλεγχο του Instagram, ορισμένοι φόρτοι εργασίας μπορούν να χρησιμοποιήσουν όλη αυτή την ιπποδύναμη.

Το πρόβλημα προέρχεται από τη μνήμη. Τέσσερα πράγματα περιορίζουν γενικά τις CPU. Το πρώτο είναι η έλλειψη πραγμάτων που πρέπει να κάνουμε. Μερικές φορές, η CPU απλώς δεν είναι φορτωμένη. Στη συνέχεια, έχετε ισχύ, υπάρχει μόνο τόση πολλή ισχύς που μπορείτε να αντλήσετε πριν αρχίσετε να καταστρέφετε τη CPU και υπάρχουν όρια για να διασφαλιστεί ότι η CPU δεν κινδυνεύει να καεί όταν είναι υπό πλήρες φορτίο. Έχετε επίσης τη στενά συνδεδεμένη πίεση θερμοκρασίας, όσο περισσότερη ισχύ χρησιμοποιείτε, τόσο περισσότερη θερμότητα παράγετε και πρέπει να διαχέετε. η υπερθέρμανση είναι εξίσου επιζήμια όσο και η υπερβολική ισχύς, καθώς τα πράγματα αρχίζουν να λιώνουν. Ο άλλος περιορισμός είναι η πρόσβαση στη μνήμη.

Μια CPU χρειάζεται συνήθως πολλά δεδομένα για να εκτελέσει πολλή επεξεργασία. Όλα αυτά αποθηκεύονται στη μνήμη RAM. Δυστυχώς, η RAM είναι αρκετά αργή σε σύγκριση με μια CPU. Αυτό μπορεί να το αφήσει σε αδράνεια για «αιώνες» προτού λάβει τα δεδομένα που χρειάζεται για να λειτουργήσει. Η προσωρινή μνήμη της CPU βοηθάει πολύ, αλλά είναι τόσο μικρή που δεν μπορεί να καλύψει τα πάντα και χρειάζεται πρόσβαση στην κύρια μνήμη.

Latency μνήμης

Για να ελαχιστοποιηθεί η επίδραση της αργής μνήμης RAM, τοποθετείται φυσικά όσο το δυνατόν πιο κοντά στην CPU. Αυτός είναι ο λόγος για τον οποίο η RAM βρίσκεται πάντα ακριβώς δίπλα στην υποδοχή CPU σε μια μητρική πλακέτα. Τι συμβαίνει όμως εάν έχετε πολλαπλούς CPU σε μία μόνο μητρική πλακέτα; Στη συνέχεια, υπάρχει διαφορετικός χρόνος πρόσβασης για μια CPU για πρόσβαση στη μνήμη της σε σύγκριση με τη μνήμη δίπλα σε μια άλλη. «Ω, όχι», θα πείτε, «κάποια μνήμη είναι ελαφρώς πιο αργή». Αλλά αυτό είναι ένα πραγματικό ζήτημα που μπορεί να έχει μια εκπληκτικά βαθιά επίδραση στην απόδοση. Αυτή η έννοια ονομάζεται μη ομοιόμορφη πρόσβαση στη μνήμη ή NUMA.

Το NUMA περιλαμβάνει την παροχή ενός μηχανισμού για το λειτουργικό σύστημα ώστε να κατανοεί ότι ενώ μπορεί να έχει πρόσβαση σε όλη τη μνήμη, ορισμένα μέρη προτιμώνται για ορισμένα πράγματα από άλλα. Όπου είναι δυνατόν, το λειτουργικό σύστημα αποθηκεύει στη συνέχεια δεδομένα για εργασίες που εκτελούνται στη CPU1 στη μνήμη RAM ακριβώς δίπλα στη CPU1. Ομοίως, τα δεδομένα που είναι απαραίτητα για μια εργασία που εκτελείται στη CPU2 αποθηκεύονται στη μνήμη RAM ακριβώς δίπλα στη CPU2. Φυσικά, με περιορισμένες χωρητικότητες RAM και τεράστια σύνολα δεδομένων, η παραμονή εντός αυτών των ορίων δεν είναι πάντα δυνατή. Ωστόσο, καταβάλλονται οι καλύτερες προσπάθειες και έχουν σημαντικό αντίκτυπο στην απόδοση.

Η πρόσβαση στη μνήμη σε ένα μόνο κανάλι είναι επίσης διαδοχική. Αυτό σημαίνει ότι όταν δύο διαφορετικές CPU προσπαθούν να αποκτήσουν πρόσβαση σε δεδομένα στο ίδιο κανάλι, η μία απευθείας συνδεδεμένη στο DIMM και η άλλη NUMA απομακρυνθεί, το δεύτερο αίτημα όχι μόνο πρέπει να περιμένει, σε αδράνεια, για το αίτημά του αλλά και το αίτημα του άλλου επεξεργαστή. Ως εκ τούτου, όπου είναι δυνατόν, τα δεδομένα θα πρέπει να αποθηκεύονται στη μνήμη RAM ακριβώς δίπλα στην CPU που θα τα χρειαστεί.

συμπέρασμα

Το NUMA σημαίνει μη ομοιόμορφη πρόσβαση στη μνήμη. Είναι ένας όρος που χρησιμοποιείται σε συστήματα υπολογιστών με πολλαπλές φυσικές CPU. Αναφέρεται στο γεγονός ότι μια CPU θα έχει διαφορετική καθυστέρηση μνήμης από τη μνήμη RAM που την περιβάλλει απευθείας σε σύγκριση με τη RAM που περιβάλλει μια άλλη CPU. Η επιπλέον καθυστέρηση μειώνει την απόδοση του συστήματος με πολλούς τρόπους. Το NUMA είναι ένας τρόπος ενημέρωσης του λειτουργικού συστήματος ότι αυτό συμβαίνει.

Του επιτρέπει να βελτιστοποιεί τη χρήση της μνήμης και την τοποθεσία δεδομένων με βάση την CPU που χρειάζεται τα δεδομένα. Όπου είναι δυνατόν, όλα τα δεδομένα για τις διεργασίες που εκτελούνται σε μια CPU αποθηκεύονται στη μνήμη RAM που είναι άμεσα συνδεδεμένη σε αυτήν την CPU. Όταν η τοπική μνήμη RAM δεν έχει αρκετή χωρητικότητα, τα δεδομένα μπορούν να διαχυθούν στη μνήμη RAM γύρω από άλλες CPU. Και πάλι, όπου είναι δυνατόν, ο αριθμός των αναπηδήσεων NUMA ελαχιστοποιείται για να μειωθεί η καθυστέρηση.