Què és una memòria cau?

En sol·licitar dades des de qualsevol font, sempre hi ha algun retard. El ping als servidors web es mesura en mil·lisegons, el temps d'accés a l'emmagatzematge pot tenir latències en els microsegons mentre que la latència de la memòria RAM es mesura en cicles de rellotge de la CPU. Per descomptat, aquest tipus de velocitats haurien estat impensables fa només unes dècades, però en el present, mai són prou ràpids. La velocitat d'accés és habitualment una forma de coll d'ampolla en el rendiment. Una de les maneres en què això es pot solucionar és amb la memòria cau.

L'emmagatzematge a la memòria cau és un procés d'emmagatzemar una còpia temporal d'un recurs de manera que es pugui accedir més ràpid del que podria ser normalment. Hi ha una gran varietat d'implementacions tant en programari com en maquinari. Les memòria cau poden actuar com a memòria cau de lectura, memòria cau d'escriptura o totes dues.

Llegir memòria cau

En una memòria cau de lectura, les dades que s'han sol·licitat anteriorment s'emmagatzemen en una memòria cau per a un accés més ràpid. En alguns escenaris, la memòria cau fins i tot es pot carregar de manera preventiva amb dades que permeten servir la primera sol·licitud des de la memòria cau en lloc de sol·licituds posteriors.

La memòria cau de lectura amb la qual és més probable que estigueu familiaritzat és la memòria cau del navegador. Aquí el navegador emmagatzema una còpia local dels recursos sol·licitats. Això vol dir que si i quan es torna a carregar la pàgina web o es carrega una pàgina similar que utilitza gran part del mateix contingut, aquest contingut es pot servir des de la memòria cau en lloc del servidor web. Això no només vol dir que la pàgina web es pot carregar més ràpid, sinó que també redueix la càrrega del servidor web i redueix la quantitat de dades que l'usuari necessita per descarregar, que poden ser importants en connexions mesurades.

La memòria RAM també actua com a memòria cau de lectura per a les dades del disc dur. En aquest cas, les dades d'un programa en execució es carreguen de manera preventiva a la RAM perquè la CPU hi pugui accedir més ràpidament. Les dades de la memòria RAM s'emmagatzemen més en memòria cau a la memòria cau de la CPU, tot i que el procés és molt més complex, ja que la memòria cau de la CPU es mesura en megabytes no en gigabytes.

Escriure memòria cau

Una memòria cau d'escriptura és una memòria cau que pot absorbir dades que s'escriuen en un dispositiu més lent. Un exemple comú d'això seria la memòria cau SLC en els SSD moderns. Aquesta memòria cau no permet llegir dades més ràpidament, però és molt més ràpid escriure-hi que escriure al flash TLC o QLC que constitueix la resta de l'SSD. La memòria cau SLC pot absorbir operacions d'escriptura d'alta velocitat i després descarrega aquestes dades tan aviat com pugui al flaix TLC, que ofereix una densitat d'emmagatzematge molt millor, però també és molt més lent per escriure. L'ús de la memòria flaix d'aquesta manera l'optimitza tant per a velocitats d'escriptura ràpides com per a una alta densitat d'emmagatzematge.

Cachés híbrids

Hi ha moltes maneres de gestionar les memòries cau que els poden permetre actuar com a memòria cau tant de lectura com d'escriptura. Cadascun d'aquests mètodes gestiona les operacions d'escriptura de manera diferent i té avantatges i inconvenients. Les tres opcions són l'escriptura, l'escriptura i la recuperació. Una memòria cau d'escriptura omet completament la memòria cau quan s'escriu, la memòria cau d'escriptura escriu a la memòria cau, però només considera que l'operació s'ha completat quan s'ha escrit a l'emmagatzematge. La memòria cau de reescriptura escriu a la memòria cau i després considera l'operació completa, confiant en la memòria cau per transferir-la a l'emmagatzematge si és necessari.

L'escriptura pot ser útil si espereu un gran volum d'escriptures, ja que minimitza la pèrdua de memòria cau. Tanmateix, vol dir que una operació que llegeix qualsevol d'aquestes dades escrites s'enfrontarà com a mínim a un error de memòria cau la primera vegada. Les memòries cau d'escriptura emmagatzemen immediatament les operacions d'escriptura a la memòria cau, el que significa que el resultat es pot servir des de la memòria cau la primera vegada que es sol·licita. Tanmateix, per considerar-se completa, una operació d'escriptura també ha d'escriure les dades al disc, cosa que afegeix latència. Una memòria cau de reescriptura té el mateix avantatge que una memòria cau d'escriptura, ja que permet que les dades escrites es publiquin immediatament des de la memòria cau. Tanmateix, no requereix operacions d'escriptura per escriure al disc per considerar-se completat. Això redueix la latència d'escriptura, però comporta el risc de pèrdua de dades si la memòria cau és volàtil i no acaba d'escriure les dades a l'emmagatzematge abans que es perdi l'alimentació.

Com eliminar dades de la memòria cau?

Un dels factors limitants de qualsevol memòria cau és la capacitat. Una memòria cau gran triga molt de temps a cercar, cosa que anul·la bona part de l'avantatge d'utilitzar una memòria cau en primer lloc. Les tecnologies de memòria utilitzades per a la memòria cau també solen ser més cares que la memòria des de la qual s'emmagatzemen. Si no fos així, és probable que aquest nivell de memòria hagi canviat les tecnologies de memòria per millorar el rendiment. Tots dos factors fan que les memòria cau acostumen a ser relativament petites, sobretot si es comparen amb el mitjà d'emmagatzematge des del qual s'emmagatzemen. La memòria RAM té menys capacitat que l'emmagatzematge i la memòria cau de la CPU té menys capacitat que la memòria RAM. La memòria cau SLC té menys capacitat que la memòria TLC.

Tot això vol dir que sovint és necessari treure les dades de la memòria cau per alliberar espai per a dades noves que s'han d'emmagatzemar a la memòria cau. Hi ha una varietat d'enfocaments diferents per a això. "Ús menys freqüent", prefereix desallotjar les entrades de memòria cau que tenen el recompte d'accés més baix. Això pot ser útil per predir quines entrades tindran el menor efecte en futurs errors de memòria cau, però també comptaria les entrades afegides molt recentment com a nombre reduït d'accessos, cosa que pot provocar l'abandonament de la memòria cau.

"Utilitzat recentment" prefereix desallotjar les entrades de la memòria cau que no s'han utilitzat durant un temps. Això suposa que no s'estan utilitzant actualment, però no té en compte si s'han utilitzat molt fa un temps. "Ús més recentment" prefereix desallotjar les entrades de memòria cau utilitzades més recentment, suposant que s'han fet servir i que no caldrà tornar a utilitzar-les. El millor enfocament és generalment una combinació de les tres, informada per les estadístiques d'ús.

Informació obsoleta i riscos de seguretat

El principal risc de les memòries cau és que la informació que contenen es pugui quedar obsoleta. Una entrada de memòria cau es considera obsoleta quan les dades originals s'han actualitzat deixant l'entrada de memòria cau obsoleta. És important verificar regularment que la còpia en directe que es publica encara coincideix amb la còpia de la memòria cau.

En els llocs web específicament, també és extremadament important identificar quines dades es poden i no es poden emmagatzemar a la memòria cau. Per exemple, està perfectament emmagatzemat a la memòria cau un fitxer JavaScript gran i sense canvis. Això estalvia que l'usuari el descarregui cada vegada i, fins i tot, pot beneficiar altres usuaris als quals atén la mateixa memòria cau. Tanmateix, no podeu emmagatzemar a la memòria cau dades específiques de la sessió. Imagineu-vos què passaria si navegueu a una aplicació de missatgeria amb la sessió iniciada com a vosaltres mateixos, només per trobar que se us va servir una versió en memòria cau dels missatges d'un altre usuari. Afortunadament, els servidors web poden especificar quins recursos es poden i no es poden emmagatzemar a la memòria cau i aquests problemes són generalment coneguts, de manera que hi ha pocs problemes com aquest.

Conclusió

Una memòria cau és una part de la memòria que pot emmagatzemar algunes dades utilitzades recentment en un mètode d'emmagatzematge que sigui més ràpid d'accedir al que seria per completar de nou el procés normal d'accés a les dades. Una memòria cau normalment té una capacitat limitada, el que significa que necessita desallotjar les entrades un cop estigui plena. Les memòria cau són generalment transparents per a l'usuari, el que significa que la latència és l'única indicació que el resultat s'ha publicat a través d'una memòria cau.