Принципы организации CACHE-памяти

КЭШ (Cache) – промежуточный буфер с быстрым доступом, содержащий информацию, которая может быть запрошена быстродействующей памятью, например ОЗУ.

Доступ к данным в КЭШе идет быстрее, чем выборка исходных данных из медленной памяти (внешней) или их перевычисление за счет чего уменьшается среднее время доступа.

Кэш –эта память с большей скоростью доступа, предназначенная для ускорения обращения к данным содержащейся постоянно в памяти с меньшей скоростью доступа.

По сути КЭШ-память делает тоже, что и применявшийся ранее конвейер команд, только на более высоком уровне. В КЭШ-памяти хранится копия некоторой системной памяти, и процессор может обмениваться с этой памятью гораздо быстрее. Причем в КЭШ-памяти могут храниться как данные, так и команды.

КЭШ состоит из набора записей. Каждая запись ассоциирована с элементом данных или блоком данных (небольшой частью данных), которая является копией элементов данных в основной памяти. Каждая запись имеет идентификатор определяющий соответствие между элементами данных в КЭШе и их копиями в основной памяти.

Когда клиент КЭШа (ЦПУ, WEB-браузер, ОС), прежде всего, исследуется КЭШ. Если в КЭШе найдена запись с идентификатором, совпадающим с идентификатором затребованного элемента данных, то используются элементы данных в КЭШе. Такой случай называется КЭШ попаданием. Если в КЭШе не найдено записей, содержащих затребованный элемент данных, то он читается из основной памяти в КЭШ и становится доступным для последующих обращений. Такой случай называется КЭШ промахом. Процент обращений к КЭШу, когда в нем найден результат называется уровнем попаданий или коэффициентом попаданий в КЭШ.

Если КЭШ ограничен в объеме, то при промахе может быть принято решение отбросить некоторую запись для освобождения пространства.

КЭШ ЦП

Некоторое ЦП обладают собственным КЭШем для того, чтобы минимизировать доступ к ОЗУ, которая медленнее чем регистр. КЭШ-память может давать значительный выигрыш в производительности в случае, когда тактовая частота ОЗУ значительно меньше тактовой частоты ЦП. Тактовая частота для КЭШ-памяти меньше тактовой частоты ЦП.