Що таке кеш L0?

Процесори — неймовірно складні звірі. Є багато взаємопов’язаних частин, які всі мають працювати в ідеальному синхроні, щоб досягти рівня продуктивності, який ми бачимо. Однією з ключових особливостей ЦП є кеш. Це не кричуща функція. Він не рекламує так добре, як кількість ядер або пікову частоту підвищення. Однак це критично для продуктивності.

Чому кеш?

Сучасні процесори неймовірно швидкі. Щосекунди вони виконують понад п'ять мільярдів операцій. Підтримувати ЦП, коли він працює так швидко, важко. Об’єм оперативної пам’яті достатній для забезпечення ЦП даними. Він навіть може передавати дані щосекунди завдяки дуже високій пропускній здатності. Але це не проблема. Проблема в затримці.

RAM може реагувати дуже швидко. Проблема в тому, що «дуже швидко» — це довгий час, коли ви робите п’ять мільярдів речей щосекунди. Навіть найшвидша оперативна пам’ять має затримку понад 60 наносекунд. Знову ж таки, 60 наносекунд звучать як відсутність часу. Проблема полягає в тому, що якби процесор працював на частоті 1 ГГц, для завершення циклу знадобилася б 1 нс. З процесорами високого класу, що досягають 5,7 ГГц, це один цикл кожні 175 пікосекунд. Як зараз виглядають ці 60 наносекунд затримки? Це 342 цикли затримки.

Така затримка була б вбивцею для будь-якої продуктивності ЦП. Щоб уникнути цього, використовується кеш. Кеш розміщується на самому кристалі ЦП. Він також набагато менший за оперативну пам’ять і використовує іншу структуру, SRAM, а не DRAM. Завдяки цьому він реагує набагато швидше, ніж основна оперативна пам’ять системи. Зазвичай кеш-пам’ять є багаторівневим, при цьому L1, L2 і L3 використовуються для позначення рівнів, які відходять від ядер процесора. Нижні рівні швидші, але менші. L1 може мати затримку в чотири або п'ять тактів, набагато краще, ніж 342.

Але деякі процесори згадують L0?

Термінологія для L1, L2 і L3 досить стандартна. Розпливчасте розуміння того, що вони означають і роблять, є відносно поширеним явищем навіть серед постачальників ЦП. Це тому, що вони керуються фізичною та електрофізикою; мало що можна змінити. Ви можете мати швидкий кеш або великий кеш, а не обидва. Він повинен бути більшим, якщо кеш використовується кількома ядрами. З цією метою L1 і L2, як правило, є основними. Більший кеш L3, як правило, використовується між деякими або всіма ядрами ЦП або мікросхеми.

Як ви, мабуть, здогадалися, L0 пов’язаний із кешуванням, але був вставлений у схему іменування після факту. Однак це не допомагає зрозуміти, що це означає. Проте ви, ймовірно, можете здогадатися про деякі речі. Він буде обмежений одним ядром, він буде крихітним і буде швидким. Інша назва може трохи допомогти; це мікроопераційний кеш.

Замість кешування даних із пам’яті чи повних інструкцій L0 кешує мікрооперації. Як ми нещодавно описували , мікрооперація є особливістю сучасних ЦП. Інструкції в x86 та інших ISA великі, складні та складні для ефективного розміщення в конвеєрі. Ви можете конвеєрувати їх набагато ефективніше, якщо розбити їх на складові мікрооперації. У деяких випадках можна навіть згрупувати кілька мікрооперацій, навіть із різних інструкцій, в одну мікрооперацію, досягаючи як покращення продуктивності, так і зменшення потужності.

Архітектура процесора з кеш-пам'яттю Micro-Op

Щоб виконати інструкцію, сучасний ЦП декодує її. Це передбачає поділ інструкції на складові мікрооперації та визначення місць пам’яті, на які слід посилатися. Багато програмного забезпечення регулярно використовують подібні функції та часто можуть повторно використовувати той самий код у циклі або з викликаної функції. Це означає, що точні інструкції можна викликати знову і знову. Це означає, що ті самі мікрооперації викликаються знову і знову. І якщо ті самі мікрооперації потрібні неодноразово, їх можна кешувати. Кешування мікрооперацій може зменшити навантаження на декодери інструкцій, зменшуючи енергоспоживання або сприяючи швидшому заповненню конвеєра.

Кеш дійсно має бути невеликим, але при ретельному управлінні до нього можна отримати доступ із затримкою одного циклу або навіть без затримки. Цього може бути достатньо, щоб запобігти необхідності використовувати 4-тактну затримку для кешу L1 і не передбачає штрафу за пропуск кешу.

Висновок

Кеш L0 — інша назва кешу мікрооперацій. Він може бути частиною сучасних процесорів, які використовують мікрооперації. Зазвичай він містить кілька тисяч записів і має ємність, указану в кількості записів, а не в байтах. L0 може бути доступний швидше, ніж L1, як правило, із затримкою 1 або 0 циклів. Кешування мікрооперацій зменшує навантаження на декодери інструкцій, особливо в коді, який добре використовує цикли або функції.