Caching Patterns

Что это

Кеш — слой между клиентом и медленным хранилищем (DB, API), который ускоряет чтение за счёт хранения горячих данных в памяти. Главные вопросы: кто пишет в кеш, когда инвалидируется, что делать на miss.

Как работает

5 базовых паттернов покрывают 95% случаев.

Cache-aside (hit)

Самый частый паттерн. Приложение само решает: читать кеш, на miss идти в БД, после — backfill. Простой, отказоустойчивый: смерть кеша не ломает приложение, только замедляет.

Cache-aside (miss + backfill)

Если в кеше нет данных, приложение идёт в БД и кладёт результат в кеш. Следующий запрос отрабатывает быстро.

Write-through

Все записи идут синхронно в кеш и БД. Кеш всегда консистентен с БД. Цена: write latency = max(cache, db). Применять когда read-after-write критичен.

Write-behind (write-back)

Записи быстро принимаются в кеш, потом батчем сбрасываются в БД. Огромный throughput на записи. Риск: кеш упал → потеряли buffer. Подходит для metrics, counters.

Cache stampede + lock

Когда популярный ключ протухает, тысячи запросов одновременно бомбят БД (все промахнулись по кешу). Решение: lock на rebuild — один рассчитывает, остальные ждут.

Когда применять

• Cache-aside — дефолт. 90% случаев.
• Write-through — когда нельзя терпеть stale read после write (профиль пользователя, settings).
• Write-behind — высокая запись, потеря допустима (counters, аналитика).
• Refresh-ahead — известные горячие ключи (топ-10 рекомендаций), пересчёт по расписанию.
• Cache + lock — обязательно для горячих ключей с дорогим rebuild.

Когда НЕ стоит

• Не кешируй то что меняется чаще чем читается — TTL ниже частоты read = бесполезен.
• Не кешируй персонализированное без user_id в ключе — рискуешь cache poisoning.
• Не используй write-behind для критичных данных — buffer теряется при crash.
• Cache-aside без TTL — стейл-данные накапливаются, рано или поздно кто-то их прочитает.

Применяется в кейсах

• [CASE]url-shortener — cache-aside для resolve коротких ссылок (read-heavy)
• [CASE]twitter-system-design — Redis timeline кешируется fanout-on-write
• [CASE]instagram-system-design — feed cache + cache stampede mitigation на популярных пользователях