21장. Cache Stampede와 Stale Data

TTL 동시 만료, miss burst, hot key, cache outage를 본다. request coalescing, jittered TTL, stale-while-revalidate, negative cache, rate limit을 데이터 성격에 맞게 쓴다.

cache를 DB truth처럼 쓰면 invalidation 장애가 데이터 오류가 된다. key version, tenant/user scope, serialization version을 명시한다. 장애 시 bypass가 DB를 쓰러뜨릴 수 있어 circuit breaker와 capacity를 함께 설계한다.