Què és la memòria Scratchpad?

L'accés a les dades és una part crítica del disseny de la CPU. Les CPU funcionen a velocitats extremadament altes, processen diverses instruccions cada cicle de rellotge i, per tant, necessiten accés a moltes dades. La gran majoria d'aquestes dades s'emmagatzemen al suport d'emmagatzematge. Els dispositius d'emmagatzematge, però, són impossibles de lents en comparació amb una CPU. Els dispositius d'emmagatzematge també són significativament millors en lectures seqüencials que en lectures aleatòries, tot i que els SSD ofereixen una millora notable en aquest sentit (i en molts altres) respecte als HDD.

La memòria RAM del sistema està dissenyada per carregar-se amb totes les dades que la CPU pugui necessitar per al programari en execució. La memòria RAM té una latència significativament menor que l'emmagatzematge, també està dissenyada específicament per tenir un alt rendiment de lectura aleatòria. Tot i així, per molt que la memòria RAM moderna sigui ràpida, encara no és res en comparació amb la CPU amb latències de l'ordre de 400 cicles de rellotge.

Per reduir encara més la latència, la majoria de les CPU modernes inclouen nivells de memòria cau. Normalment, aquests s'anomenen cachés L1, L2 i L3. L1 és realment alta velocitat, normalment pren l'ordre de 5 cicles de rellotge per accedir. L2 és una mica més lent, de l'ordre de 20 cicles. L3 és encara més lent encara al voltant de 200 cicles. Tot i que L1 és increïblement ràpid, també és petit. Gran part de la seva velocitat prové del fet que les memòria cau més petites triguen menys temps a buscar. L2 és més gran que L1 però més petit que L3, que encara és més petit que la memòria RAM del sistema. Equilibrar bé la mida d'aquestes memòria cau és fonamental per obtenir una CPU d'alt rendiment. Les ràtios d'accés a la memòria cau són importants, però cal equilibrar el nombre de visites amb el temps que triga a obtenir-la, per tant, els nivells.

Memòria Scratchpad

Tingueu en compte que la memòria del bloc de notes no encaixa en la jerarquia de memòria tradicional. Això és perquè no s'utilitza a la majoria de CPU de consum. La memòria Scratchpad està dissenyada per utilitzar-se com ho faria un Scratchpad a la vida real. Anoteu la informació temporal que necessiteu recordar però que no cal que l'arxiveu. Gran part del temps una CPU processa dades i després necessita aquest resultat de nou immediatament. Pot copiar-lo a la memòria, però per poder accedir-hi ràpidament també hauria de guardar-lo a la memòria cau.

La memòria Scratchpad omple essencialment el mateix buit que la memòria cau L1. És accessible el més ràpid possible, sovint en recomptes de cicles d'un sol dígit. Per gestionar-ho, també és relativament petit. Tanmateix, hi ha dues diferències clau entre la memòria L1 i el bloc de notes. En primer lloc, la memòria del bloc de notes és directament adreçable. En segon lloc, es comparteix entre tots els nuclis i processadors.

Diferències entre la memòria cau i el bloc de notes

La memòria cau de la CPU és essencialment transparent per a la CPU, no hi pot posar dades deliberadament i el seu contingut no es pot programar. En canvi, la CPU només demana dades de la memòria RAM i les recupera més ràpidament, de vegades molt més ràpid del que podria esperar. Permetre que el bloc de notes sigui adreçable significa que el codi pot especificar exactament quines dades haurien d'haver al bloc de notes. Això pot ser útil, tot i que els algorismes de memòria cau moderns són excel·lents, amb un percentatge d'èxits del 95-97% que s'espera a les càrregues de treball estàndard.

La memòria cau L1 sempre està bloquejada a un nucli de processament individual. Cap altre nucli de processament hi pot accedir. Això vol dir que si diversos nuclis necessiten les mateixes dades, poden duplicar-les a les seves respectives memòria cau L1. En algunes arquitectures de CPU, la L2 és per nucli, en altres és compartida per un petit nombre o fins i tot per tots els nuclis. L3 tendeix a ser compartida per tots els nuclis. Compartir la memòria cau entre nuclis permet que dos o més nuclis accedeixin a les mateixes dades sense duplicar-les. També permet que un nucli utilitzi més de la seva quota justa quan en té la necessitat i la memòria cau té l'espai.

Scratchpad actua de manera similar a l'L1 en termes de velocitat i capacitat, però es comparteix entre tots els nuclis. Això permet un accés molt ràpid a dades específiques que s'actuen en una càrrega de treball multiprocés. La memòria Scratchpad fins i tot es pot compartir entre diferents CPU en plaques base multisocket.

Un desavantatge que té la memòria del bloc de notes és que es pot confiar massa. En poder-hi accedir directament, el programari pot confiar en la seva presència en determinades quantitats. En aquest cas, seria incapaç d'executar-se a les CPU sense tanta memòria de bloc de notes. Els nivells de memòria cau simplement no pateixen aquest problema i, per tant, són més adequats per a un ús general.

Casos d'ús

La memòria Scratchpad es troba més sovint en sistemes de servidors multisocket dissenyats per a HPC (informàtica d'alt rendiment). Allà, la seva combinació de velocitat i accés compartit el fa útil per a càrregues de treball altament paral·leles.

La memòria Scratchpad també s'utilitza en processadors molt més petits. Processadors incrustats, sovint MPSoC. Un processador incrustat sovint té una potència relativament baixa i està especialitzat per a una tasca específica. Aquesta especialització sovint es representa en optimitzacions de maquinari. Especialment en un sistema multiprocessador en un xip, la memòria d'alta velocitat compartida pot proporcionar millores significatives de latència a diversos processadors diferents. Aquest tipus de CPU solen tenir un disseny molt fix. Les consoles de jocs, per exemple, ja veuen moltes optimitzacions per al disseny de maquinari i, per tant, poden fer un bon ús d'aquestes característiques sense haver de preocupar-se per la compatibilitat cap endavant o cap endavant.

Conclusió

La memòria Scratchpad és similar a la memòria cau L1, però té una sèrie de diferències que canvien els seus casos d'ús. En lloc de ser una memòria cau, és directament adreçable, permetent que les dades s'assignin específicament a una memòria especialment d'alta velocitat. També es comparteix entre tots els nuclis i processadors del processador, cosa que el fa especialment útil en càrregues de treball molt multifils.