Τι είναι η μνήμη Scratchpad;

Η πρόσβαση στα δεδομένα είναι ένα κρίσιμο μέρος του σχεδιασμού της CPU. Οι CPU λειτουργούν σε εξαιρετικά υψηλές ταχύτητες, επεξεργάζονται πολλαπλές οδηγίες σε κάθε κύκλο ρολογιού και έτσι χρειάζονται πρόσβαση σε πολλά δεδομένα. Η συντριπτική πλειοψηφία αυτών των δεδομένων αποθηκεύεται στα μέσα αποθήκευσης. Οι συσκευές αποθήκευσης, ωστόσο, είναι απίστευτα αργές σε σύγκριση με μια CPU. Οι συσκευές αποθήκευσης είναι επίσης σημαντικά καλύτερες σε διαδοχικές αναγνώσεις από ό,τι στις τυχαίες αναγνώσεις, αν και οι SSD προσφέρουν αξιοσημείωτη βελτίωση από αυτή την άποψη (και πολλά άλλα) σε σχέση με τους σκληρούς δίσκους.

Η μνήμη RAM συστήματος έχει σχεδιαστεί για να φορτώνεται με όλα τα δεδομένα που μπορεί να χρειαστεί η CPU για το τρέχον λογισμικό που εκτελείται. Η μνήμη RAM έχει σημαντικά χαμηλότερο λανθάνοντα χρόνο από την αποθήκευση, ενώ είναι επίσης ειδικά προσαρμοσμένη για να έχει υψηλή απόδοση τυχαίας ανάγνωσης. Ωστόσο, όσο και αν η σύγχρονη μνήμη RAM είναι γρήγορη, δεν είναι τίποτα σε σύγκριση με την CPU με καθυστερήσεις της τάξης των 400 κύκλων ρολογιού.

Για περαιτέρω μείωση της καθυστέρησης, οι περισσότερες σύγχρονες CPU περιλαμβάνουν επίπεδα μνήμης cache. Συνήθως, αυτές αναφέρονται ως κρυφές μνήμες L1, L2 και L3. Το L1 είναι πραγματικά υψηλή ταχύτητα, συνήθως λαμβάνει την τάξη των 5 κύκλων ρολογιού για πρόσβαση. Το L2 είναι λίγο πιο αργό, της τάξης των 20 κύκλων. Το L3 είναι ακόμα πιο αργό στους 200 περίπου κύκλους. Ενώ το L1 είναι απίστευτα γρήγορο, είναι επίσης μικροσκοπικό. Μεγάλο μέρος της ταχύτητάς του προέρχεται από το γεγονός ότι οι μικρότερες κρυφές μνήμες χρειάζονται λιγότερο χρόνο για την αναζήτηση. Το L2 είναι μεγαλύτερο από το L1 αλλά μικρότερο από το L3 που είναι ακόμα μικρότερο από τη μνήμη RAM του συστήματος. Η σωστή εξισορρόπηση του μεγέθους αυτών των κρυφών μνήμων είναι κρίσιμη για να αποκτήσετε μια CPU υψηλής απόδοσης. Οι αναλογίες επισκέψεων στην κρυφή μνήμη είναι σημαντικές, αλλά πρέπει να εξισορροπήσετε τον αριθμό των επισκέψεων με τον χρόνο που χρειάζεται για να πετύχετε αυτό το χτύπημα, εξ ου και τα επίπεδα.

Μνήμη Scratchpad

Σημειώστε ότι η μνήμη του scratchpad δεν ταιριάζει στην παραδοσιακή ιεραρχία μνήμης. Αυτό συμβαίνει επειδή δεν χρησιμοποιείται στις περισσότερες CPU καταναλωτών. Η μνήμη του Scratchpad έχει σχεδιαστεί για να χρησιμοποιείται όπως ένα scratchpad στην πραγματική ζωή. Σημειώνετε προσωρινές πληροφορίες που πρέπει να θυμάστε, αλλά δεν χρειάζεται να καταργήσετε. Τις περισσότερες φορές μια CPU επεξεργάζεται δεδομένα και στη συνέχεια χρειάζεται αυτό το αποτέλεσμα ξανά αμέσως. Μπορεί να το αντιγράψει στη μνήμη, αλλά για να μπορεί να έχει γρήγορη πρόσβαση σε αυτό θα πρέπει επίσης να το διατηρεί στην κρυφή μνήμη.

Η μνήμη του Scratchpad ουσιαστικά καλύπτει το ίδιο κενό με την κρυφή μνήμη L1. Είναι προσβάσιμο όσο το δυνατόν γρηγορότερα, συχνά σε μονοψήφιο αριθμό κύκλων. Για να το διαχειριστείς αυτό, είναι επίσης σχετικά μικρό. Ωστόσο, υπάρχουν δύο βασικές διαφορές μεταξύ της μνήμης L1 και του scratchpad. Πρώτον, η μνήμη του scratchpad είναι άμεσα διευθυνσιοδοτούμενη. Δεύτερον, είναι κοινόχρηστο μεταξύ όλων των πυρήνων και των επεξεργαστών.

Διαφορές μεταξύ cache και scratchpad

Η κρυφή μνήμη της CPU είναι ουσιαστικά διαφανής για την CPU, δεν μπορεί να τοποθετήσει σκόπιμα δεδομένα εκεί και το περιεχόμενό της δεν μπορεί να προγραμματιστεί. Αντίθετα, η CPU απλώς ζητά δεδομένα από τη μνήμη RAM και τυχαίνει να τα επαναφέρει πιο γρήγορα, μερικές φορές πολύ πιο γρήγορα από ό,τι θα περίμενε. Το να επιτρέπεται στο scratchpad να είναι διευθυνσιοδοτούμενο σημαίνει ότι ο κώδικας μπορεί να καθορίσει ακριβώς ποια δεδομένα θα πρέπει να βρίσκονται στο scratchpad. Αυτό μπορεί να είναι χρήσιμο, αν και οι σύγχρονοι αλγόριθμοι προσωρινής αποθήκευσης είναι εξαιρετικοί με αναμενόμενα ποσοστά επιτυχίας 95-97% σε τυπικούς φόρτους εργασίας.

Η κρυφή μνήμη L1 είναι πάντα κλειδωμένη σε έναν μεμονωμένο πυρήνα επεξεργασίας. Κανένας άλλος πυρήνας επεξεργασίας δεν μπορεί να έχει πρόσβαση σε αυτό. Αυτό σημαίνει ότι εάν πολλοί πυρήνες χρειάζονται τα ίδια δεδομένα, μπορούν να τα αντιγράψουν στις αντίστοιχες κρυφές μνήμες L1. Σε ορισμένες αρχιτεκτονικές CPU, το L2 είναι ανά πυρήνα, σε άλλες είναι κοινόχρηστο από έναν μικρό αριθμό ή ακόμα και όλους τους πυρήνες. Το L3 τείνει να είναι κοινόχρηστο από όλους τους πυρήνες. Η κοινή χρήση προσωρινής μνήμης μεταξύ πυρήνων επιτρέπει σε δύο ή περισσότερους πυρήνες να έχουν πρόσβαση στα ίδια δεδομένα χωρίς να τα αντιγράφουν. Επιτρέπει επίσης σε έναν πυρήνα να χρησιμοποιεί περισσότερο από το δίκαιο μερίδιο του όταν έχει την ανάγκη και η κρυφή μνήμη έχει χώρο.

Το Scratchpad λειτουργεί παρόμοια με το L1 όσον αφορά την ταχύτητα και τη χωρητικότητα, αλλά μοιράζεται μεταξύ όλων των πυρήνων. Αυτό επιτρέπει πολύ γρήγορη πρόσβαση σε συγκεκριμένα δεδομένα που επεξεργάζονται σε έναν πολυνηματικό φόρτο εργασίας. Η μνήμη του Scratchpad μπορεί ακόμη και να μοιράζεται μεταξύ διαφορετικών CPU σε μητρικές πλακέτες πολλαπλών υποδοχών.

Ένα μειονέκτημα που έχει η μνήμη scratchpad είναι ότι μπορεί να βασίζεται σε υπερβολικά μεγάλο βαθμό. Έχοντας τη δυνατότητα άμεσης πρόσβασης σε αυτό, το λογισμικό μπορεί να βασίζεται στην παρουσία του σε ορισμένες ποσότητες. Σε αυτήν την περίπτωση, τότε δεν θα μπορούσε να εκτελεστεί σε CPU χωρίς τόση μνήμη scratchpad. Οι βαθμίδες κρυφής μνήμης απλά δεν υποφέρουν από αυτό το πρόβλημα και επομένως είναι καλύτερα κατάλληλες για χρήση γενικής χρήσης.

Θήκες χρήσης

Η μνήμη Scratchpad εντοπίζεται συχνότερα σε συστήματα διακομιστών πολλαπλών υποδοχών που έχουν σχεδιαστεί για HPC (High-Performance Computing). Εκεί, ο συνδυασμός ταχύτητας και κοινής πρόσβασης το καθιστά χρήσιμο για εξαιρετικά παράλληλους φόρτους εργασίας.

Η μνήμη Scratchpad χρησιμοποιείται επίσης σε πολύ μικρότερους επεξεργαστές. Ενσωματωμένοι επεξεργαστές, συχνά MPSoC. Ένας ενσωματωμένος επεξεργαστής είναι συχνά σχετικά χαμηλής ισχύος και εξειδικευμένος για μια συγκεκριμένη εργασία. Αυτή η εξειδίκευση αντιπροσωπεύεται συχνά σε βελτιστοποιήσεις υλικού. Ειδικά σε ένα σύστημα πολλαπλών επεξεργαστών σε ένα τσιπ, η κοινή μνήμη υψηλής ταχύτητας μπορεί να προσφέρει σημαντικές βελτιώσεις καθυστέρησης σε πολλούς διαφορετικούς επεξεργαστές. Αυτού του είδους οι CPU έχουν συχνά πολύ σταθερό σχεδιασμό. Οι κονσόλες παιχνιδιών, για παράδειγμα, έχουν ήδη πολλές βελτιστοποιήσεις για τη σχεδίαση υλικού και έτσι μπορούν να κάνουν καλή χρήση τέτοιων χαρακτηριστικών χωρίς να χρειάζεται να ανησυχείτε για τη συμβατότητα προς τα πίσω ή προς τα εμπρός.

συμπέρασμα

Η μνήμη Scratchpad είναι παρόμοια με την προσωρινή μνήμη L1, αλλά έχει μια σειρά από διαφορές που αλλάζουν τις περιπτώσεις χρήσης της. Αντί να είναι μια κρυφή μνήμη, είναι άμεσα διευθυνσιοδοτούμενη, επιτρέποντας στα δεδομένα να εκχωρούνται ειδικά σε ιδιαίτερα υψηλής ταχύτητας μνήμη. Είναι επίσης κοινόχρηστο μεταξύ όλων των πυρήνων επεξεργαστών και των επεξεργαστών, καθιστώντας το ιδιαίτερα χρήσιμο σε μεγάλους φόρτους εργασίας πολλαπλών νημάτων.