Mi az a Scratchpad memória?

Az adathozzáférés a CPU tervezésének kritikus része. A CPU-k rendkívül nagy sebességgel működnek, minden órajelben több utasítást dolgoznak fel, ezért sok adathoz kell hozzáférniük. Az adatok túlnyomó többsége az adathordozón van tárolva. A tárolóeszközök azonban hihetetlenül lassúak a CPU-hoz képest. A tárolóeszközök a szekvenciális olvasásnál is lényegesen jobbak, mint a véletlenszerű olvasásoknál, bár az SSD-k ebben a tekintetben (és sok másban) jelentős javulást kínálnak a merevlemezekhez képest.

A rendszer RAM-ot úgy tervezték, hogy betöltse az összes olyan adatot, amelyre a CPU-nak szüksége lehet az éppen futó szoftverhez. A RAM-nak lényegesen alacsonyabb a késleltetése, mint a tárolóé, emellett kifejezetten nagy véletlenszerű olvasási teljesítményre van kialakítva. Bármennyire is gyors a modern RAM, ez még mindig semmi a 400-as nagyságrendű késleltetésű CPU-hoz képest.

A várakozási idő további csökkentése érdekében a legtöbb modern CPU gyorsítótár-memória szinteket tartalmaz. Ezeket általában L1, L2 és L3 gyorsítótárnak nevezik. Az L1 nagyon nagy sebességű, jellemzően 5 órajelet vesz igénybe a hozzáféréshez. Az L2 egy kicsit lassabb, nagyjából 20 ciklus. Az L3 még lassabb 200 ciklus körül. Bár az L1 hihetetlenül gyors, egyben kicsi is. A sebesség nagy része abból adódik, hogy a kisebb gyorsítótárak keresése kevesebb időt vesz igénybe. Az L2 nagyobb, mint az L1, de kisebb, mint az L3, ami még mindig kisebb, mint a rendszer RAM. A gyorsítótárak méretének megfelelő kiegyensúlyozása kritikus fontosságú a nagy teljesítményű CPU beszerzéséhez. A gyorsítótár találati aránya fontos, de egyensúlyba kell hoznia a találatok számát és azt, hogy mennyi időbe telik a találat elérése, ezért a szintek.

Scratchpad memória

Vegye figyelembe, hogy a scratchpad memóriája nem fér bele a hagyományos memóriahierarchiába. Ez azért van, mert a legtöbb fogyasztói CPU nem használja. A Scratchpad memóriáját úgy tervezték, hogy úgy használjuk, ahogyan azt a való életben használjuk. Jegyezze fel az ideiglenes információkat, amelyeket emlékeznie kell, de nem kell ténylegesen elküldenie. Az idő nagy részében a CPU feldolgozza az adatokat, majd azonnal újra szüksége van az eredményre. A memóriába másolhatja, de a gyors eléréshez a gyorsítótárban is meg kell őriznie.

A Scratchpad memória lényegében ugyanazt a hiányt pótolja, mint az L1 gyorsítótár. A lehető leggyorsabban elérhető, gyakran egy számjegyű ciklusszámlálással. Ennek kezelésére is viszonylag kicsi. Két fő különbség van azonban az L1 és a scratchpad memória között. Először is, a scratchpad memóriája közvetlenül címezhető. Másodszor, meg van osztva az összes mag és processzor között.

A gyorsítótár és a scratchpad közötti különbségek

A CPU cache lényegében transzparens a CPU számára, nem tud oda szándékosan adatokat elhelyezni és a tartalma nem programozható. Ehelyett a CPU csak adatokat kér a RAM-ból, és történetesen gyorsabban kapja vissza azokat, néha lényegesen gyorsabban, mint várná. A scratchpad címezhetővé tétele azt jelenti, hogy a kód pontosan meghatározhatja, hogy milyen adatok legyenek a jegyzettömbön. Ez hasznos lehet, bár a modern gyorsítótárazási algoritmusok kiválóak, normál munkaterhelés esetén 95-97%-os találati arány várható.

Az L1 gyorsítótár mindig egy egyedi feldolgozómaghoz van zárva. Más feldolgozó mag nem férhet hozzá. Ez azt jelenti, hogy ha több magnak ugyanazokra az adatokra van szüksége, akkor megkettőzhetik azokat a megfelelő L1 gyorsítótárukban. Egyes CPU-architektúrákban az L2 magonkénti, másokban kevés vagy akár az összes mag megosztja. Az L3-at általában minden mag megosztja. A magok közötti gyorsítótár megosztása lehetővé teszi, hogy két vagy több mag hozzáférjen ugyanazokhoz az adatokhoz anélkül, hogy azokat megkettőzné. Azt is lehetővé teszi, hogy egy mag a méltányos részesedésénél többet használjon fel, amikor szüksége van rá, és a gyorsítótárban van hely.

A Scratchpad a sebesség és a kapacitás tekintetében az L1-hez hasonlóan működik, de az összes mag között meg van osztva. Ez nagyon gyors hozzáférést tesz lehetővé a többszálú munkaterhelés során végzett konkrét adatokhoz. A Scratchpad memóriája még a többfoglalatos alaplapokon is megosztható a különböző CPU-k között.

A scratchpad-memória egyik hátránya, hogy túl erősen támaszkodhat rá. Mivel közvetlenül hozzáférhet, a szoftver bizonyos mennyiségben támaszkodhat a jelenlétére. Ebben az esetben nem tudna futni a CPU-kon annyi scratchpad memória nélkül. A gyorsítótár szintek egyszerűen nem szenvednek ettől a problémától, ezért jobban megfelelnek általános célú használatra.

Használati esetek

Scratchpad memória leggyakrabban a HPC-hez (High-Performance Computing) tervezett több foglalatos szerverrendszerekben található. Ott a sebesség és a megosztott hozzáférés kombinációja hasznossá teszi a rendkívül párhuzamos munkaterhelésekhez.

A Scratchpad memóriáját sokkal kisebb processzorok is használják. Beágyazott processzorok, gyakran MPSoC-k. A beágyazott processzor gyakran viszonylag alacsony fogyasztású, és egy adott feladatra specializálódott. Ez a specializáció gyakran a hardveroptimalizálásban jelenik meg. A chipen lévő többprocesszoros rendszerekben a megosztott nagy sebességű memória jelentős késleltetési javulást jelenthet több különböző processzor számára. Az ilyen típusú CPU-k kialakítása gyakran nagyon rögzített. A játékkonzolok például már sok optimalizálást látnak a hardvertervezés terén, így jól ki tudják használni ezeket a funkciókat anélkül, hogy aggódnunk kellene a visszafelé vagy előrefelé kompatibilitás miatt.

Következtetés

A Scratchpad memóriája hasonló az L1 gyorsítótárhoz, de számos olyan különbség van, amelyek megváltoztatják a felhasználási eseteket. Ahelyett, hogy gyorsítótár lenne, közvetlenül címezhető, lehetővé téve az adatok kifejezetten a különösen nagy sebességű memóriához való hozzárendelését. Ezenkívül meg van osztva az összes processzormag és processzor között, így különösen hasznos az erősen többszálú munkaterheléseknél.